imageoptim - только Mac OS X. На этом сайте они рекомендуют trimage для пользователей, не являющихся Mac.
Для вызова внешних программ из php вы используете задокументированную команду exec здесь .
Обратите внимание, что по соображениям безопасности важно экранировать аргументы, передаваемые exec, с помощью другой команды, например escapeshellcmd или escapeshellarg, из соображений безопасности.
Ваше предположение в комментарии о параметрах командной строки является правильным, вы просто передаете их вместе с именем программы в качестве строкового аргумента для exec с правильным экранированием, конечно.