Должно работать без трансформации.Но если вы хотите сначала выполнить преобразование, то
select st_simplify(ST_Transform(ST_SetSRID(st_astext,4326),3857),1)
Объяснение: - преобразование st_transfrom из одного SRID в другое - st_geomfromtext - создание объекта геометрии, понятного для postGIS - Аргумент st_simplfy - это геометрия (geom) и допуск (большее значениеболее "простая" геометрия будет)
Если вы хотите вернуть объект как WKT, тогда используйте st_astext () или как st_asEWKT () - второй - с информацией SRID объекта.
Безтрансформация в метрическую SRID это было бы так
select st_simplify(ST_Transform(ST_SetSRID(st_astext,4326),3857),0.000001)