Согласно документации MSDN Console.SetBufferSize это не ограничивается увеличением буфера. Однако вам необходимо настроить размер окна консоли перед уменьшением буфера.
Этот пример работает:
Console.WriteLine($"Current buffer size: {Console.BufferWidth}x{Console.BufferHeight}");
Console.SetWindowSize(1, 1);
Console.SetBufferSize(80, 80);
Console.SetWindowSize(40, 20);
Console.WriteLine($"New buffer size: {Console.BufferWidth}x{Console.BufferHeight}");
Вывод:
Текущий размер буфера: 120x9001
Новый размер буфера: 80x80