Не похоже, что это действительно поддерживается. Я нашел атрибут "post_install_message", который вы можете установить в спецификации gem, но он не будет выполнять код.
Вы можете сделать это, упаковав код при установке в качестве расширения в вашем геме (как если бы оно было нативным расширением) и предоставив Rakefile для «сборки» расширения (т.е. вызова вашего кода).