Не гарантируется, что все эти библиотеки будут присутствовать в системе, в которой устанавливается программное обеспечение. Поэтому они должны быть включены в ваш установщик. Оттуда у вас есть два варианта.
Вы можете установить их в системные папки Windows или в папку приложения. Разница заключается в том, что если вы устанавливаете их в папку приложения, вы можете настроить их на XP и Vista, чтобы разные версии программного обеспечения с разными версиями компонентов можно было запускать и запускать рядом. Установка их в системную папку сломает любую более старую версию, которая зависит от более старой версии компонентов.
Установка в папке приложения редко не работает, если компонент зависит от других компонентов, которые не могут быть обновлены. Когда это происходит, это обычно происходит с библиотеками Microsoft. Они поправились за эти годы.
Подробнее о проблемах, связанных с параллельным выполнением, вы можете прочитать здесь
Наконец, зависимости должны быть в вашем установщике, чтобы они были зарегистрированы в реестре Windows. В отличие от большинства сборок .NET любое приложение ActiveX / COM должно иметь зарегистрированный компонент, чтобы использовать его, даже если вы используете для этого типы CreateObject и Variant.
Я признаю, что весь этот процесс уникален и является одним из источников для историй об DLL Hell. Начните со статьи MSDN, воспользуйтесь википедией и, конечно, задайте дополнительные вопросы здесь.