Это не задача, для которой был разработан PHP.
Я рекомендую вам написать приложение, которое хранит данные в памяти и выполняет с ними вычисления, а затем взаимодействует с ним в PHP для получения результатов.
Целочисленный размер PHP на самом деле 64-битный на большинстве 64-битных Unix-подобных платформ.
Общая память - не очень хороший вариант, потому что вам все равно нужно копировать данные в область памяти PHP.
Написание расширения, которое хранит все в памяти и напрямую обращается к нему, возможно, но не очень практично, так как вам все равно придется использовать общую память (или какой-то другой механизм IPC), потому что вы обычно запускаете несколько процессов PHP.