У Амит Сингха есть глава о том, как сделать это из C.
http://www.osxbook.com/book/bonus/chapter10/light/
Было бы легко скомпилировать пример кода на этой странице и вызвать его из Applescript.
Чтобы сделать Applescript функциональной клавишей, вы должны использовать код клавиши. Коды клавиш для функциональных клавиш:
F1 122
F2 120
F3 99
F4 118
F5 96
F6 97
F7 98
F8 100
F9 101
F10 109
F11 103
Чтобы набрать один, сделайте что-то вроде этого:
сообщить приложению «Системные события» к коду 96