Ну, это выполнимо. Однажды я сделал это для Lua 5.0.2, но я не могу найти файлы. Среди возможных вариантов вы можете:
Оберните Lua в COM dll, предоставляя Lua API, поэтому в VB вы можете добавить ссылку на него.
Создайте свою пользовательскую версию Lua, используя соглашение о вызовах __stdcall, чтобы вы могли использовать объявление в VB для импорта необходимых функций Lua. Написание библиотеки типов значительно облегчит интеграцию с VB (в основном, она сделает преобразование из строк C в строки VB для вас).
Создайте DLL-оболочку, которая копирует интерфейс Lua, но использует __stdcall, добавляя функции, которые определены с помощью макросов и т. Д.
Я помню, что, используя пользовательский Lua, я мог зарегистрировать функции VB (определенные в модулях) в Lua и вызывать их из скрипта. Я не помню, получал ли я когда-нибудь это для вызова функций-членов.
Надеюсь, это поможет вам начать.