MySQL имеет подключаемые системы хранения. Это означает, что двигатель может использовать разные хранилища.
В настоящее время есть 5-6 из них, которые вы можете использовать. И так как это с открытым исходным кодом, вы можете увидеть, как это делается.
SQLite использует собственную реализацию B-Tree с журналированием. Открытый исходный код - вы можете посмотреть на него.
Firebird и Interbase используют B-Trees с системами контроля версий с несколькими записями для хранения. Firebird с открытым исходным кодом. Стоит посмотреть.
Невозможно определить для Oracle , MS SQL Server или других проприетарных систем баз данных, поскольку они хранят информацию о хранилище в секрете.