Тип индекса по умолчанию, Btree, не поддерживает оператор <>. Тип индекса GiST (под btree_gist) делает. Вы должны использовать индексный тип, который поддерживает оператор.
Если вы изменили оператор ограничения на '=', вы можете опустить "gist". Но в этом случае вы должны просто использовать уникальное ограничение, так как оно делает то же самое лучше.