В описании любого сетевого протокола (конечного автомата и т. Д.) Вполне безопасно предположить, что пакеты, которые являются недопустимыми для данного состояния, просто отбрасываются. Если стек получает SYN в середине установленного потока TCP (с IP-адресом источника / назначения: PORT, совпадающим с этим потоком), это, вероятно, какая-то подделка или повреждение, которое контрольная сумма заголовка не уловила. Пакет должен быть брошен на пол без какого-либо обновления состояния.
Я не подозреваю, что было бы полезно явно включить подобные случаи в описание конечного автомата TCP. Это было бы как включение любой возможной синтаксической ошибки в грамматическое описание языка: загроможденный, большой и запутанный.