Как уже отмечали другие, вероятно, проблема в том, что n слишком велико.
попробуйте заменить
int64_t *fibarray = new int64_t[n];
на
int64_t *fibarray = new(nothrow) int64_t[n];
if (fibarray == nullptr) return -1; // now check for null
Проверить на ноль, прежде чем даже войти в цикл.Это хорошая практика, особенно если вы предоставляете пользователю значения n и m без каких-либо ограничений или проверок на действительность.