RegDLL для DLL, которые экспортируют функцию DllRegisterServer.Обычно используется COM DLL.
Вы можете зарегистрировать плагин в Firefox, используя функции реестра NSIS :
!define pluginid "@example.com/myplugin"
Outfile "setup.exe"
InstallDir "$programfiles\myplugin"
Page Instfiles
Section
SetOutPath $InstDir
File "myplugin.dll"
WriteRegStr HKLM "SOFTWARE\MozillaPlugins\${pluginid}" "Path" "$InstDir\myplugin.dll"
WriteRegStr HKLM "SOFTWARE\MozillaPlugins\${pluginid}" "ProductName" "my plugin"
WriteRegStr HKLM "SOFTWARE\MozillaPlugins\${pluginid}" "Description" "my useless plugin"
;Add Vendor,Version etc...
SectionEnd
.. но если ваш плагин NPAPIна самом деле есть экспорт DllRegisterServer, вы можете использовать RegDLL ...