Это зависит от того, что именно вы хотите сделать с индексом.
Один из вариантов будет не индексировать сами объекты, а упрощенную версию:
CREATE INDEX ON atable USING gist (st_simplify(geom, 1, TRUE));
И затем использовать это как предварительный фильтр:
SELECT ... FROM atable
WHERE st_intersects(st_simplify(geom, 1, TRUE), GEOMETRY '...')
AND st_intersects(geom, GEOMETRY '...');
Это может использовать индекс. Проблема заключается в том, что упрощенная геометрия не пересекается, поэтому вы можете получить ложные негативы в угловых случаях.