Создайте новый проект из шаблона проекта библиотеки классов или шаблона проекта библиотеки управления Windows Forms. Последнее может быть полезно, если вы создаете свои собственные элементы управления. Полученная сборка DLL может быть использована в других проектах приложений Windows Forms.
Использование сборки EXE в качестве ссылки на проект возможно, хотя я полагаю, что большинство инсталляторов будут очень смущены этим. Вам нужно будет развернуть EXE в том же каталоге, что и ваш «основной» EXE-файл приложения. Сделайте это правильно с проектом библиотеки классов.