Нет библиотеки, о которой я знаю, но реализовать ее было бы довольно просто в Solaris (и во всех Unix / Unix-подобных ОС, поддерживающих tmpfs и mmap).
Просто создайте файл нужного размера (например, 16 ГиБ) в / tmp (при условии, что / tmp установлен на tmpfs, конфигурация по умолчанию) и попросите процесс (-ы) отобразить различные области этого файла для доступа к памяти на разыскиваемые смещения.
Если вы действительно хотите получить доступ к физической памяти, а не к виртуальной, вы можете использовать поддержку ramdisk (ramdiskadm) в Solaris вместо tmpfs.