Пришлось добавить это в nginx файл конфигурации прокси
location / {
proxy_headers_hash_max_size 512;
proxy_headers_hash_bucket_size 64;
proxy_set_header Host $host;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
add_header Front-End-Https on;
proxy_pass http(s)://<your NextCloud ip and port>;
}
Также добавить client_max_body 10G; в NextCloud nginx .conf и post_max_size = 10G в php .ini