Вы не можете запустить Dll напрямую. Установите «Исполняемый файл для сеанса отладки», как описано в статье:
«Запустите отладчик, нажав клавишу F5. Когда появится диалоговое окно« Исполняемый файл для сеанса отладки », выберите« Веб-браузер по умолчанию »и нажмите« ОК ». Если Internet Explorer не является браузером по умолчанию, вы можете найти исполняемый файл."
Редактировать: Проект - Свойства - Свойства конфигурации - Отладка - Команда. Введите здесь имя исполняемого файла, который работает с библиотекой.