Я заново создал ваш пример, и кнопка отображается в форме редактирования в пользовательской библиотеке документов с RegistrationId 10001. Так что, похоже, все в порядке.
Пользовательская библиотека документов и настраиваемое действие находятся в одном проекте и в одной функции в моей тестовой среде, и я переместил эту функцию на сайт.
Как вы это организовали?
Одна вещь: вам не хватает закрывающего тега CustomAction в xml. Это присутствует в вашем решении?
Возможно, в вашем решении присутствует другой код, который может вызвать исключение или что-то в этом роде?
С уважением, Анита