Стандартный «прозрачный» является альфа-каналом с нулевым значением на черном фоне, поэтому rgba (0,0,0,0). Если вы хотите убедиться в этом, сделайте фон черным под прозрачными областями. Так, например, из вашей команды, предполагая, что in.png имеет некоторую прозрачность:
magick in.png -background black -alpha background -trim +repage out.png
Обратите внимание, что в ImageMagick 7 используйте магию, а не преобразование магики.