Nginx, Gunicorn, Django, Celery (Redis): вверх по течению преждевременно закрытое соединение 502 шлюза - PullRequest
0 голосов
/ 31 октября 2018

Я запускаю установку с помощью docker-compose на сервере Linux. Два дня назад я добавил gunicorn + nginx в настройку. К сожалению, все остальные конечные точки API, которые запускают задачи сельдерея, перестали работать (он возвращает шлюз 502 не найден).

Когда я пытаюсь отправить почтовую форму на calculate shortest path, которая запускает задачу сельдерея, возвращается шлюз 502.

Issue:
 Summary
 URL: http://192.168.0.150:8001/tspweb/calculate_shortest_paths/
 Status: 502 Bad Gateway
 Source: Network
 Address: 192.168.0.150:8001

Вот журналы из контейнера django и контейнера nginx.

tspoptimization | [2018-10-31 07:26:30 +0000] [1] [CRITICAL] WORKER TIMEOUT (pid:15)
nginx_1   | 2018/10/31 07:26:30 [error] 8#8: *9 upstream prematurely closed connection while reading response header from upstream, client: 192.168.0.103, server: localhost, request: "POST /tspweb/calculate_shortest_paths/ HTTP/1.1", upstream: "http://192.168.128.2:8001/tspweb/calculate_shortest_paths/", host: "192.168.0.150:8001", referrer: "http://192.168.0.150:8001/tspweb/warehouse_list.html"
nginx_1   | 192.168.0.103 - - [31/Oct/2018:07:26:30 +0000] "POST /tspweb/calculate_shortest_paths/ HTTP/1.1" 502 157 "http://192.168.0.150:8001/tspweb/warehouse_list.html" "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/12.0 Safari/605.1.15" "-

До того, как были добавлены gunicorn + nginx, все работало идеально (в локальной системе без этих 2 все работает отлично). Это означает, что это не проблема тайм-аута.

Я подозреваю, что nginx + gunicorn не «перенаправляет» запрос POST из формы в сельдерей. Я запустил celery, выполнив вход в файл, и это содержимое файла журнала celery:

root@4fb6e101a85b:/opt/services/djangoapp/src# cat logmato.log
[2018-10-31 07:12:04,400: INFO/MainProcess] Connected to.    redis://redis:6379//
[2018-10-31 07:12:04,409: INFO/MainProcess] mingle: searching for neighbors
[2018-10-31 07:12:05,430: INFO/MainProcess] mingle: all alone
[2018-10-31 07:12:05,446: WARNING/MainProcess] /usr/local/lib/python3.6/site-packages/celery/fixups/django.py:200:     UserWarning: Using settings.DEBUG leads to a memory leak, never use this setting in production environments!
 warnings.warn('Using settings.DEBUG leads to a memory leak, never '
 [2018-10-31 07:12:05,446: INFO/MainProcess] celery@4fb6e101a85b ready.
 [2018-10-31 07:14:07,802: INFO/MainProcess] Connected to redis://redis:6379//
 [2018-10-31 07:14:07,813: INFO/MainProcess] mingle: searching for neighbors
[2018-10-31 07:14:08,835: INFO/MainProcess] mingle: all alone
[2018-10-31 07:14:08,853: WARNING/MainProcess]/usr/local/lib/python3.6/site-packages/celery/fixups/django.py:200:          UserWarning: Using settings.DEBUG leads to a memory leak, never use this setting in production environments!
warnings.warn('Using settings.DEBUG leads to a memory leak, never
2018-10-31 07:14:08,853: INFO/MainProcess] celery@4fb6e101a85b ready.

Как вы можете видеть из журналов, работники сельдерея не запустили ни одной задачи, которая означает, что проблема не в сельдерее или редисе, а где-то в связи между (nginx-gunicorn-django-celery).

Вот мой файл docker-compose:

version: '3'
services:
  db:
    image: postgres
    volumes:
      - postgres_data:/var/lib/postgresql/data
    networks:  # <-- connect to the bridge
      - database_network
  redis:
    image: "redis:alpine"
    expose:
      - "5672"
  django:
    build: .
    restart: always
    container_name: tspoptimization
    volumes:
      - .:/opt/services/djangoapp/src
      - static_volume:/opt/services/djangoapp/src/tspweb/static  # <-- bind the static volume
      - media_volume:/opt/services/djangoapp/src/tspweb/media  # <-- bind the media volume
    depends_on:
      - db
      - redis
    networks:
    - nginx_network
    - database_network
  celery:
    build: .
    command: celery -A tspoptimization worker -l info
    volumes:
      - .:/code
    depends_on:
      - db
      - redis
      - django
    links:
      - redis
  nginx:
    image: nginx:latest
    ports:
     - 8001:80
    volumes:
     - ./config/nginx/conf.d:/etc/nginx/conf.d
     - static_volume:/opt/services/djangoapp/src/tspweb/static  # <-- bind the static volume
     - media_volume:/opt/services/djangoapp/src/tspweb/media  # <-- bind the media volume
    depends_on:
     - django
    networks:
     - nginx_network
networks:
  nginx_network:
    driver: bridge
  database_network:  # <-- add the bridge
    driver: bridge
volumes:
  postgres_data:
  static_volume:
  media_volume:

Вот конфиг nginx:

upstream hello_server {
    server django:8001;
}

server {

    listen 80;
    server_name localhost;

    location / {
        # everything is passed to Gunicorn

        proxy_pass http://hello_server;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header Host $host;
        proxy_redirect off;
    }

    location /tspweb/static/ {
        alias /opt/services/djangoapp/src/tspweb/static/;
    }

    location /tspweb/media/ {
        alias /opt/services/djangoapp/src/tspweb/media/;
    }
}

мои настройки django:

DEBUG = True
ALLOWED_HOSTS = ['*']
CELERY_BROKER_URL = 'redis://redis:6379'
STATIC_URL = '/tspweb/static/'
STATIC_ROOT = os.path.join(os.path.dirname(os.path.dirname(BASE_DIR)), '/tspweb/static')
MEDIA_URL = '/tspweb/media/'
MEDIA_ROOT = os.path.join(BASE_DIR, 'tspweb/media')

И, наконец, файл Docker:

FROM python:3.6

RUN mkdir -p /opt/services/djangoapp/src
WORKDIR /opt/services/djangoapp/src
ADD . /opt/services/djangoapp/src

EXPOSE 8001
RUN pip install -r requirements.txt
RUN python manage.py collectstatic --no-input
CMD ["gunicorn", "--bind", ":8001", "tspoptimization.wsgi"]

Любая помощь, как решить эту проблему?

1 Ответ

0 голосов
/ 31 октября 2018

Я исправил эту проблему в одиночку, поэтому вот ответ:

Redis & Celery должен находиться в одной виртуальной сети, созданной docker с nginx-network и db-network.

Это файл docker-compose, который работает и задачи отправляются правильно:

version: '3'
services:
  db:
    image: postgres
    volumes:
      - postgres_data:/var/lib/postgresql/data
    networks:  # <-- connect to the bridge
      - database_network
  redis:
    image: "redis:latest"
    expose:
      - "5672"
    networks:
      - database_network
      - nginx_network
  django:
    build: .
    restart: always
    container_name: tspoptimization
    volumes:
      - .:/opt/services/djangoapp/src
      - static_volume:/opt/services/djangoapp/src/tspweb/static  # <-- bind the static volume
      - media_volume:/opt/services/djangoapp/src/tspweb/media  # <-- bind the media volume
    depends_on:
      - db
      - redis
    networks:
    - nginx_network
    - database_network
  celery:
    build: .
    command: celery -A tspoptimization worker -l info
    volumes:
      - .:/code
    depends_on:
      - db
      - redis
      - django
    links:
      - redis
    networks:
      - nginx_network
      - database_network
  nginx:
    image: nginx:latest
    ports:
     - 8001:80
    volumes:
     - ./config/nginx/conf.d:/etc/nginx/conf.d
     - static_volume:/opt/services/djangoapp/src/tspweb/static  # <-- bind the static volume
     - media_volume:/opt/services/djangoapp/src/tspweb/media  # <-- bind the media volume
    depends_on:
     - django
    networks:
     - nginx_network
networks:
  nginx_network:
    driver: bridge
  database_network:  # <-- add the bridge
    driver: bridge
volumes:
  postgres_data:
  static_volume:
  media_volume:

На самом деле я не знаю, так ли это нужно делать, но я не профессионал в devops, так что, по крайней мере, пока эта работа.

...