Ответ Маурисио почти на правильном пути - но это для преобразования текста, который Сфинкс индексирует для полей.Когда вы сортируете, вы делаете это по атрибутам (которые не используют преобразования таблицы кодировок).
Что вам нужно сделать, это отделить атрибут сортировки имени от поля,и заставить версию атрибута использовать строчные буквы:
indexes :name
has "LOWER(companies.name)", :as => :name_sort
И тогда поиск становится:
Company.search query,
:star => true,
:page => params[:page],
:per_page => 20,
:order => :name_sort,
:sort_mode => :asc