Зависит от того, что вы действительно хотите сделать. Но если вам нужен сетевой анализатор всей машины (что-то вроде того, что делает whireshark), вероятно, вы ищете libpcap или winpcap. Также есть библиотека java, которая обрабатывает вещи низкого уровня: pcap4j