CryptoAPI такой же надежный, как и при правильном использовании.
Вы обнаружите, что есть два вида внешних библиотек для crypto для Windows: те, которые переопределяют все, потому что они предназначены для поддержки многоплатформенной разработки, и те, которые действуют как упрощающий слой поверх CryptoAPI для определенных целей. Если вы в бывшей толпе, во что бы то ни стало используйте авторитетную независимую от платформы библиотеку. Если вы обнаружите, что не можете работать продуктивно в сыром CryptoAPI, найдите авторитетную библиотеку, которая будет делать именно то, что вам нужно, за меньшее количество шагов. Но не думайте, что другая библиотека собирается вылечить ваши риски безопасности, потому что она как-то «лучше»; просто убедитесь, что все, что вы используете, заслуживает уважения.
Как отмечали многие другие, если вам действительно нужна «максимальная безопасность» (на каком бы уровне вы ни находились, «максимальный»), вы можете нанять эксперта. Кроме того, вам нужно взглянуть на безопасность с целостного ракурса; шифрование данных - это только один аспект.
И, наконец, само собой разумеется, даже не мечтайте о написании собственной криптографической библиотеки, даже о реализации существующих алгоритмов. К несчастью, ты потерпишь неудачу.