Протокол TELNET представляет собой интерактивное соединение через сокет TCP / IP. Вы можете использовать java.net.Socket и подключиться к определенному порту (по умолчанию порт 21 для протокола TELNET).
Вы можете использовать этот учебник от Oracle в качестве отправной точки.
Если вы ищете спецификацию протокола, Wikipedia предоставляет довольно изобретательный список RFC, который определяет протокол TELNET. Это становится все более волосатым, поскольку охватывает множество вещей, которые вам, вероятно, не нужны.