Мое первое предположение заключается в том, что вы пытаетесь загрузить x86 (32-разрядный) файл System.Data.SQLite.dll в процесс x64 (64-разрядный) или наоборот. System.Data.SQLite.dll содержит собственную библиотеку sqlite3, которую необходимо скомпилировать для x86 или x64, поэтому для каждого ЦП существует версия System.Data.SQLite.dll.
Если вы используете консоль, ipy.exe всегда 32-битный (даже на 64-битных платформах), а ipy64.exe - AnyCPU, поэтому он соответствует текущей платформе. Если вы используете IronPython, а хост-приложение - AnyCPU, вам нужно загрузить правильную копию System.Data.SQLite.dll для машины, на которой вы работаете (или просто принудительно установить хост-приложение x86).