... требуется ли сертификат SSL при использовании SSL в пользовательских протоколах?
Сертификат используется для идентификации сервера, т. Е. Чтобы убедиться, что клиент подключается к ожидаемому серверу, а не к какому-либо человеку в середине. TLS предоставляет также другие методы для выполнения таких проверок, например, использование предварительно общего секретного ключа между клиентом и сервером, для получения дополнительной информации см. Википедия: TLS-PSK .
Я хотел бы знать, какова роль SSL-сертификата в процессе шифрования потока между двумя конечными точками? Это только для проверки 2 конечных точек?
Основная роль сертификата заключается в обеспечении аутентификации. При обмене ключами RSA сертификат дополнительно используется для передачи информации для симметричного ключа шифрования от клиента к серверу - путем шифрования предварительного секретного ключа с помощью открытого ключа сервера, взятого из сертификата, чтобы сервер мог расшифровать его с помощью соответствующий закрытый ключ. Но обратите внимание, что обмен ключами RSA считается устаревшим и что в современных методах обмена ключами (Диффи-Хеллман) сертификат не используется.