Возможно реализовать это, но вы вряд ли увидите какой-либо прирост производительности. В описываемом вами сценарии единственная разница между использованием объекта потока и сопоставлением файлов заключается в том, какая подсистема выполняет ввод-вывод (инициирует чтение / запись). Для сопоставления файлов менеджер памяти обрабатывает сбои страниц для операций чтения и сохраняет грязные (записанные) страницы на досуге.
Для сериализации протокольных буферов добрый старомодный потоковый ввод / вывод файлов является самым простым и наиболее переносимым решением.