для IzPack 4 вы не должны использовать здесь элемент обертки, просто используйте следующее:
<native type="izpack" name="ShellLink.dll"/>
<native type="izpack" name="ShellLink_x64.dll"/>
<native type="izpack" name="WinSetupAPI.dll"/>
<native type="izpack" name="WinSetupAPI_x64.dll"/>
Это также задокументировано в файле installation.dtd:
<!ELEMENT installation (info, packaging?, properties?,
variables?,dynamicvariables?,conditions?,installerrequirements?,
guiprefs?, locale, resources?, panels,
listeners?, packs, jar*, native*)>
Для IzPack 5 dtd был изменен на синтаксис, который вы используете выше.