В NSTextField нет встроенного решения для динамического шрифта. Вы должны построить свой собственный алгоритм.
EDIT:
Это может быть не слишком сложно. Вы, вероятно, просто должны создать его подкласс, а затем выполнить метод, который делает (в псевдокоде):
if(text.length > someValue)
self.fontSize = 17
else if (text.length < someValue)
self.fontSize = 14
else
self.fontSize = 12
Давайте подождем, если кто-то знает сторонний открытый исходный код, чтобы сделать это элегантно