Я предполагаю, что вы используете растровую версию 2.7-15. В этой версии есть ошибка в настройке управления памятью. Вы можете исправить это с помощью rasterOptions(maxmem=1e09)
; или используйте версию 2.8-4 (достигла CRAN сегодня, но еще не скомпилирована для win и mac)