Файлы с отображенной памятью принципиально несовместимы с сборщиком мусора. Именно поэтому такая основная функция операционной системы так долго поддерживалась .NET. Ссылочные типы должны быть сериализованы в представление MMF, MemoryMappedViewStream, никак не обойти это. Аналогичное ограничение существует в неуправляемом коде, объекты с указателями должны быть сглажены, чтобы наведенные объекты также были видны на виде.
Независимо от того, сериализованы ли они в MMF или в файл, не имеет значения, кеш файловой системы также реализован с помощью MMF. Запись в файл выполняется очень быстро, если записанные данные помещаются в доступную сопоставляемую память. Если это проблема, обратитесь к 64-разрядной операционной системе, чтобы решить эту проблему.