Невозможно создать AWS Lambda Deployment Package для ipopt, pyomo, cython

Question

Я пытаюсь создать AWS Lambda Deployment Package, чтобы я мог использовать его как AWS Lambda Layer. В частности, я пытаюсь использовать ipopt sovler в сочетании с pyomo и cython. Я могу получить пакет pyomo без проблем, но при попытке установить пакет ipopt для пакета pip выдается ошибка:

ERROR: Command errored out with exit status 1:
     command: 'c:\python36\python.exe' -u -c 'import sys, setuptools, tokenize; sys.argv[0] = '"'"'C:\\Users\\username\\AppData\\Local\\Temp\\pip-install-rir_unvz\\ipopt\\setup.py'"'"'; __file__='"'"'C:\\Users\\username\\AppData\\Local\\Temp\\pip-install-rir_unvz\\ipopt\\setup.py'"'"';f=getattr(tokenize, '"'"'open'"'"', open)(__file__);code=f.read().replace('"'"'\r\n'"'"', '"'"'\n'"'"');f.close();exec(compile(code, __file__, '"'"'exec'"'"'))' install --record 'C:\Users\username\AppData\Local\Temp\pip-record-d1o_oqjy\install-record.txt' --single-version-externally-managed --compile --install-headers 'c:\python36\Include\ipopt'
         cwd: C:\Users\username\AppData\Local\Temp\pip-install-rir_unvz\ipopt\
    Complete output (20 lines):
    running install
    running build
    running build_py
    creating build
    creating build\lib.win-amd64-3.6
    creating build\lib.win-amd64-3.6\ipopt
    copying ipopt\ipopt_wrapper.py -> build\lib.win-amd64-3.6\ipopt
    copying ipopt\version.py -> build\lib.win-amd64-3.6\ipopt
    copying ipopt\__init__.py -> build\lib.win-amd64-3.6\ipopt
    running build_ext
    skipping 'src\cyipopt.c' Cython extension (up-to-date)
    building 'ipopt.cyipopt' extension
    creating build\temp.win-amd64-3.6
    creating build\temp.win-amd64-3.6\Release
    creating build\temp.win-amd64-3.6\Release\src
    C:\Program Files (x86)\Microsoft Visual Studio 14.0\VC\BIN\x86_amd64\cl.exe /c /nologo /Ox /W3 /GL /DNDEBUG /MD -Iinclude_mt/coin -Ic:\python36\lib\site-packages\numpy\core\include -Ic:\python36\include -Ic:\python36\include "-IC:\Program Files (x86)\Microsoft Visual Studio 14.0\VC\INCLUDE" "-IC:\Program Files (x86)\Windows Kits\10\include\10.0.10240.0\ucrt" "-IC:\Program Files (x86)\Windows Kits\8.1\include\shared" "-IC:\Program Files (x86)\Windows Kits\8.1\include\um" "-IC:\Program Files (x86)\Windows Kits\8.1\include\winrt" /Tcsrc\cyipopt.c /Fobuild\temp.win-amd64-3.6\Release\src\cyipopt.obj
    cyipopt.c
    c:\python36\lib\site-packages\numpy\core\include\numpy\npy_1_7_deprecated_api.h(14) : Warning Msg: Using deprecated NumPy API, disable it with #define NPY_NO_DEPRECATED_API NPY_1_7_API_VERSION
    src\cyipopt.c(569): fatal error C1083: Cannot open include file: 'IpStdCInterface.h': No such file or directory
    error: command 'C:\\Program Files (x86)\\Microsoft Visual Studio 14.0\\VC\\BIN\\x86_amd64\\cl.exe' failed with exit status 2
    ----------------------------------------
ERROR: Command errored out with exit status 1: 'c:\python36\python.exe' -u -c 'import sys, setuptools, tokenize; sys.argv[0] = '"'"'C:\\Users\\username\\AppData\\Local\\Temp\\pip-install-rir_unvz\\ipopt\\setup.py'"'"'; __file__='"'"'C:\\Users\\username\\AppData\\Local\\Temp\\pip-install-rir_unvz\\ipopt\\setup.py'"'"';f=getattr(tokenize, '"'"'open'"'"', open)(__file__);code=f.read().replace('"'"'\r\n'"'"', '"'"'\n'"'"');f.close();exec(compile(code, __file__, '"'"'exec'"'"'))' install --record 'C:\Users\username\AppData\Local\Temp\pip-record-d1o_oqjy\install-record.txt' --single-version-externally-managed --compile --install-headers 'c:\python36\Include\ipopt' Check the logs for full command output.

Я пытаюсь запустить пакет pyomo / ipopt в AWS lambda функция. Этот пакет отсутствует в SDK, поэтому я прочитал, что мне придется скомпилировать зависимости в zip, а затем загрузить zip в функцию lambda.

Я провел некоторые исследования и опробовал ссылки ниже, но когда я пытаюсь установить pip ipopt, я получаю сообщения об ошибках - я на Windows поле, но я также пробовал на Linux EC2 экземпляр

Оценить помощь!

https://aws.amazon.com/premiumsupport/knowledge-center/lambda-python-package-compatible/

Невозможно установить cvxpy в virtualenv для AWS lambda

https://medium.com/datadriveninvestor/how-to-set-up-layers-python-in-aws-lambda-functions-1355519c11ed

https://medium.com/@qtangs / creation-new- aws -lambda-layer-for- python - pandas -library-348b126e9f3e

https://github.com/coin-or/Ipopt

https://docs.aws.amazon.com/lambda/latest/dg/configuration-layers.html

AWS Lambda - невозможно импортировать модуль 'lambda_function'

Answer 1

TL; DR , вот рабочий пакет развертывания лямбда, который совместим с Python 3.6 времени выполнения. [ gdrive ссылка для скачивания ]

Оказывается, очень сложно собрать все необходимое в один почтовый индекс. Я потратил довольно много времени (несколько часов) на ручное копирование библиотечных файлов. Вот шаги, которые я предпринял для создания этого пакета.

1. Раскрутка локальной лямбды Python 3.6 среды выполнения docker контейнер

docker run -it --rm lambci/lambda:build-python3.6 bash

Pip установить все зависимости в локальный каталог

mkdir ipopt-lib
PYTHONPATH=$PYTHONPATH:~/ipopt-lib
pip install Cython numpy -t ipopt-lib/

Следовал официальному руководству для сборки и установки Ipopt из исходного кода

yum install lapack-devel
git clone https://github.com/coin-or/Ipopt.git
cd Ipopt
IPOPTDIR=`pwd`
mkdir $IPOPTDIR/build
cd $IPOPTDIR/build
$IPOPTDIR/configure
make
make install

PKG_CONFIG_PATH=/usr/local/lib/pkgconfig pip install ipopt -t ipopt-lib/

Копирование всех файлов библиотеки вручную по

cp -t ~/ipopt-lib/ /usr/local/lib/lib*
cp -t ~/ipopt-lib/ /usr/lib64/libblas.so* /usr/lib64/liblapack*
cp -t ~/ipopt-lib/ /usr/lib64/libgfortran.so.3*
cp -t ~/ipopt-lib/ /usr/lib64/libstdc++.so*
cp -t ~/ipopt-lib/ /usr/lib64/libquadmath.so.0*

Застегнуть все вместе

cd ~/ipopt-lib
zip -r /root/ipopt-lib.zip *

Копирование на хост-машину

docker cp <CONTAINER_ID>:/root/ipopt-lib.zip ~/Downloads/

Вот все Python пакеты, доступные в этом пакете развертывания (включая пакеты по умолчанию, установленные во время выполнения):

$ pip freeze
appdirs==1.4.3
arrow==0.15.5
attrs==19.3.0
aws-lambda-builders==0.8.0
aws-sam-cli==0.47.0
aws-sam-translator==1.22.0
awscli==1.18.41
binaryornot==0.4.4
boto3==1.12.41
botocore==1.15.41
certifi==2020.4.5.1
chardet==3.0.4
chevron==0.13.1
click==7.1.1
colorama==0.4.3
cookiecutter==1.6.0
Cython==0.29.17
dateparser==0.7.4
distlib==0.3.0
docker==4.2.0
docutils==0.15.2
filelock==3.0.12
Flask==1.0.4
future==0.18.2
idna==2.8
importlib-metadata==1.6.0
importlib-resources==1.4.0
ipopt==0.1.9
itsdangerous==1.1.0
Jinja2==2.11.2
jinja2-time==0.2.0
jmespath==0.9.5
jsonschema==3.2.0
MarkupSafe==1.1.1
numpy==1.18.3
pipenv==2018.11.26
poyo==0.5.0
pyasn1==0.4.8
pyrsistent==0.16.0
python-dateutil==2.8.0
pytz==2019.3
PyYAML==5.3.1
regex==2020.4.4
requests==2.22.0
rsa==3.4.2
s3transfer==0.3.3
serverlessrepo==0.1.9
six==1.14.0
tomlkit==0.5.8
tzlocal==2.0.0
urllib3==1.25.8
virtualenv==20.0.18
virtualenv-clone==0.5.4
websocket-client==0.57.0
Werkzeug==1.0.1
whichcraft==0.6.1
zipp==3.1.0

Тестирование на лямбде с использованием Python 3,6 *

1047 *

Результат

Response:
null

Request ID:
"9bd9fd88-d340-4976-a954-8a727e173933"

Function Logs:
START RequestId: 9bd9fd88-d340-4976-a954-8a727e173933 Version: $LATEST
1.18.3
0.1.9
END RequestId: 9bd9fd88-d340-4976-a954-8a727e173933
REPORT RequestId: 9bd9fd88-d340-4976-a954-8a727e173933  Duration: 0.45 ms   Billed Duration: 100 ms Memory Size: 128 MB Max Memory Used: 74 MB  Init Duration: 343.99 ms    

Приветствия!