Зачем вам нужен сертификат подписи?
Я думаю, что, вероятно, происходит то, что ACS WS-FederationMetadata не обновляется вашим пользовательским сертификатом. Но это должно быть очень просто исправить: если у вас есть сертификат, вы также знаете отпечаток. Просто замените значение в web.config и попробуйте снова.
Итак, подведем итог:
1- Если вы используете пользовательский сертификат: загрузите в ACS, настройте ACS для использования сертификата для подписи, запустите FedUtil, а затем убедитесь, что в файле web.config вашего приложения есть отпечаток сертификата.
2 - Если вы используете сертификат подписи по умолчанию, просто запустите FedUtil, и все должно работать.