Похоже, что некоторые дистрибутивы OpenSSL для Windows ожидают дополнительного нажатия клавиш, независимо от стандартного ввода. Quit.txt правильно передается в STDIN openssl (сервер получает команду QUIT), но ничего не происходит, пока вы не нажмете любую клавишу.
Эта проблема не существует в Cygwin версии OpenSSL. К сожалению, базовая установка Cygwin занимает около 100 МБ дискового пространства, но вы можете попробовать извлечь только openssl.exe и необходимые библиотеки.
Этот метод работает:
echo QUIT | c:\cygwin\bin\openssl.exe s_client -showcerts -connect google.com:443 > cert.txt