Ознакомьтесь с проектом Apache POI . Это Java API для Microsoft Documents, включая Excel.
Несмотря на то, что я не использовал его сам, похоже, что есть поддержка паролей в документах xls. Если вам нужна более подробная помощь, вам нужно быть более конкретным, как говорит @Sebastian.
Edit:
Может быть, функция protectSheet из POI, что вы ищете?