Я столкнулся с той же проблемой на моем Debian Jessie, когда пытался скомпилировать luacrypto.
Проблема в том, что в configure.ac luacrypto пытается выполнить следующее:
PKG_CHECK_MODULES([LUA], [lua])
LUALIBDIR="`$PKGCONFIG --variable=libdir lua`"
Проблема в том, что, поскольку доступно несколько версий, вам нужно указать, какую вы хотите, вот мой вывод для pkg-config --list-all:
root@test-stream:~/luacrypto# pkg-config --list-all|grep -i lua
lua-5.1-c++ Lua - Lua language engine
lua-5.1 Lua - Lua language engine
lualib50 lua50 - The Lua 5.0 programming language addon libraries
lua5.1 Lua - Lua language engine
lua5.1-c++ Lua - Lua language engine
lua51 Lua - Lua language engine
lua50 lua50 - The Lua 5.0 programming language
lua51-c++ Lua - Lua language engine
Я только что изменил файл верхнего уровня configure.ac для luacrypto следующим образом:
diff --git a/configure.ac b/configure.ac
index b6b9175..20ea20c 100644
--- a/configure.ac
+++ b/configure.ac
@@ -28,10 +28,10 @@ AC_CHECK_FUNCS([memset])
# pkgconfig
PKG_CHECK_MODULES([OPENSSL], [openssl])
-PKG_CHECK_MODULES([LUA], [lua])
+PKG_CHECK_MODULES([LUA], [lua5.1])
# lua libdir
-LUALIBDIR="`$PKGCONFIG --variable=libdir lua`"
+LUALIBDIR="`$PKGCONFIG --variable=libdir lua5.1`"
Затем autoreconf -i (для этого вам нужен autoconf & automake), и все работает!