Ответ полностью зависит от того, как вы хотите открыть защищенные файлы.
Если он открывается вашей (java) программой или приложением, то вы можете просто зашифровать его с помощью пароля при сохранении и расшифровать с помощью того, что предоставляет пользователь,
и использовать некоторую контрольную сумму или заголовок, чтобы увидеть, является ли результат действительным - или мусор из-за неверного пароля,
некоторые крипто-API сделают это для вас прямо из коробки.
Второй вариант - если вы имели в виду шифрование файлов с помощью программы (например, файла блокнота или чего-то еще), и вы ожидаете, что окна или блокнот запросят у вас пароль, то это зависит от формата файла, который вы используете. Некоторые из них могут быть защищены паролем, некоторые - нет, как текстовые файлы, обычно связанные с блокнотом). В этом случае защита паролем работает так, как описано в собственной документации формата, и вам придется немного изучить, я думаю, это будет слишком много работы
мы можем защитить паролем файлы zip с помощью основного API Java.