Можно ли загрузить файл в приложении AIR, сохранить его в системе пользователя и запретить доступ к файлам приложениями, отличными от того, с которого он был загружен?
Шифрование действительно, вероятно, путь. В AIR есть удобное зашифрованное локальное хранилище, которое должно упростить вам этот подход:
http://livedocs.adobe.com/flex/3/langref/flash/data/EncryptedLocalStore.html
Конечно, это нелегко сделать в Windows. Возможно, вам лучше зашифровать его содержимое.
РЕДАКТИРОВАТЬ: Создание файла, не доступного для других программ, очень похоже на вирус.
Лучше всего хранить содержимое файла в EncryptedLocalStore или в локальном объекте шарда. Хотя вы можете хранить загруженный файл в каталоге в файловой системе пользователя, вы не сможете предотвратить доступ к нему других приложений (или пользователей) в системе. Это проблема безопасности, потому что так работают многие вирусы.