У меня есть скрипт обновления инвентаря Python, который запускается каждую ночь, извлекая инвентарь с веб-сайта. Недавно у меня начались проблемы, и при дальнейшем исследовании выяснилось, что при просмотре исходного контента через веб-браузер (просмотр исходного кода) он выглядит нормально. Тем не менее, когда я печатаю его на консоль с python, это выглядит очень странно (и ломает скрипт). Хотите знать, если кто-нибудь видел что-то подобное или знает, что вызвало это?
Веб-браузер показывает это (URL отредактирован):
<ul class='vnav vnav__subnav vnav--level2'>
<li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Folding Tables</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Bookcases</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Printer Stands</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Computer Desks</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Office Chairs</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Filing Cabinets</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Letter Holders</a>
</li></ul>
</li>
<li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Bathroom</a>
<ul class='vnav vnav__subnav vnav--level2'>
<li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Bathroom Mirrors</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Bathroom Sinks</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Bathroom Cabinets</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Bathroom Vanities</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Laundry Hampers</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Bath Towel Sets</a>
</li><li class='vnav__item'><a href='https://xx.htm' class='vnav__link'>Shower Curtains</a>
</li></ul>
Но Python print () в консоли показывает это (URL отредактирован):
<ul class="vnav vnav__subnav vnav--level2">
<li class="vnav__item"><a class="vnav__link" href="https://xx.htm">Folding Tables</a>
</li><li class="vnav__item"><a class="vnav__link" href="https://xx.htm">Bookcases</a>
</li><li class="vnav__item"><a class="vnav__link" href="https://xx.htm">Printer Stands</a>
</li><li class="vnav__item"><a class="vnav__link" href="https://xx.htm">Computer Desks</a>
</li><li class="vnav__item"><a class="vnav__link" href="https://xx.htm">Office Chairs</a>
</li><li class="vnav__item"><a class="vnav__link" href="https://xx.htm">Filing Cabinets</a>
</li><li class="vnav__item"><a class="vnav__link" href="https://xx.htm">Letter Holders</a>
</li></ul>
</li>
<li class="vnav__item"><a href="https:">/ / x x . h t m ' c l a s s = ' v n a v _ _ l i n k ' > B a t h r o o m / a >
u l c l a s s = ' v n a v v n a v _ _ s u b n a v v n a v - - l e v e l 2 ' >
l i c l a s s = ' v n a v _ _ i t e m ' > a h r e f = ' h t t p s : / / x x . h t m ' c l a s s = ' v n a v _ _ l i n k ' > B a t h r o o m M i r r o r s / a >
/ l i > l i c l a s s = ' v n a v _ _ i t e m ' > a h r e f = ' h t t p s : / / x x . h t m ' c l a s s = ' v n a v _ _ l i n k ' > B a t h r o m S i n k s / a >
/ l i > l i c l a s s = ' v n a v _ _ i t e m ' > a h r e f = ' h t t p s : / / x x . h t m ' c l a s s = ' v n a v _ _ l i n k ' > B a h r o o m C a b i n e t s / a >
/ l i > l i c l a s s = ' v n a v _ _ i t e m ' > a h r e f = ' h t t p s : / / x x . h t m ' c l a s s = ' v n a v _ _ l i n k ' > B a h r o o m V a n i t i e s / a >
/ l i > l i c l a s s = ' v n a v _ _ i t e m ' > a h r e f = ' h t t p s : / / x x . h t m ' c l a s s = ' v n a v _ _ l i n k ' > L a u n r y H a m p e r s / a >
/ l i > l i c l a s s = ' v n a v _ _ i t e m ' > a h r e f = ' h t t p s : / / x x . h t m ' c l a s s = ' v n a v _ _ l i n k ' > B a t h T o w e l S e t s / a >
/ l i > l i c l a s s = ' v n a v _ _ i t e m ' > a h r e f = ' h t t p s : / / x x . h t m ' c l a s s = ' v n a v _ _ l i n k ' > S h o w e C u r t a i n s / a >
/ l i > / u l >
Тип содержимого "text / html" и кодировка "ISO-8859-1" в веб-браузере, но при печати через Python отображается "UTF-8". Кроме того, в консоли Python print () отображается весь остаток html со всеми пробелами и символами, за исключением правого конца, которое возвращается к нормальному состоянию (за исключением того, что выглядит так, как будто есть 2 тега, что является другая проблема):
/ b o d y >
/ h t m l >
</a></li></ul></div></nav></body></html>
Наконец, если я пытаюсь декодировать, используя UTF-8 вместо ISO-8859-1, я получаю следующую ошибку:
UnicodeDecodeError: 'utf8' codec can't decode byte 0xe9 in position 74396: invalid continuation byte