Лучше всего начать с теории. Посмотрите, как создаются IP-пакеты, как выглядит HTTP-пакет и как сети структурированы на низком уровне. Есть много, чему стоит научиться.
Что касается инструментов для обучения, я настоятельно рекомендую Wireshark . Позвольте вам выполнить DPI (Deep Packet Inspection) и привыкнуть к тому, что вы ищете.
Распространенным методом DPI является использование сервера SOCKS или аналогичного прокси-сервера, через который фильтруется весь трафик.
DPI имеет свои недостатки. Это повлияет на вашу сеть и, если наивно реализовано, может легко добавить одну точку отказа.