Я нашел решение.
Read-the-docs устанавливает sphinx<2
по умолчанию, в котором есть ошибка для флага doctest
(см. Комментарий @mzjn). Таким образом я подготовил readthedocs.yml :
...
python:
install:
- requirements: docs/requirements.txt
и подготовил docs/requirements.txt
следующим образом:
sphinx>=2.2
Теперь readthedocs устанавливает sphinx>=2.2
и все работает хорошо.