Вы не можете "выполнить" DLL. Вы можете выполнять функции внутри DLL, как объяснено в других ответах. Хотя файлы .EXE и .DLL по сути одинаковы по формату, отличительной особенностью .EXE является то, что он содержит обозначенную «точку входа», чтобы идти и делать то, для чего был создан EXE-файл. Библиотеки DLL на самом деле имеют что-то похожее, но цель "dll main" - просто выполнить инициализацию, а не выполнить основную цель DLL; то есть для (предположительно) различных других функций, которые он содержит.
Вы можете выполнить любую из функций, экспортируемых DLL, при условии, что вы знаете, какую из них вы хотите выполнить; EXE может содержать множество функций, но одна и только одна специально предназначена для выполнения просто «запустив» его.