Проще говоря, это обеспечивает эффективный поиск данных.
Принимая телефонную книгу, это всегда "фамилия, имя", чтобы вы могли найти кого-нибудь. Представьте, что телефонная компания просто добавила новые номера в конец списка без какого-либо заказа: вам нужно будет сканировать миллионы записей одну за другой, чтобы найти «Смит, Джон».
То же самое относится и к таблице базы данных. Таблица без индекса (просто) называется «кучей»: потому что ваши данные - это буквально куча неупорядоченных данных. Если у меня миллион строк, мне нужно просмотреть каждую строку, чтобы найти то, что я хочу.
Конечно, это сложнее, но я надеюсь, что это отражает суть.
То же самое применимо везде: названия улиц в путеводителе A-Z всегда в алфавитном порядке, записи в выписке по счету всегда в порядке дат