Поскольку вы пытаетесь извлечь его между тегами, вы должны использовать тег в конце. Я не знаю, какой веб-сайт вы пытаетесь очистить, но вот пример того, как я соскребал между тегом 'a' на этом веб-сайте http://books.toscrape.com/ Вот код, который я использовал для этого
response.xpath("(//h3)[1]/a/text()").extract_first()
Во второй строке кода вы не использовали функцию для извлечения текста справа. Тот, который вы используете, предназначен для селектора CSS. Для Xpath if будет / text (), а не :: text (). Для вашего кода, я думаю, вам следует попробовать один из этих вариантов. Сообщите мне, если это поможет.
response.xpath("//span[contains(text(),'Establishment year')]/div/text()").get()
или
response.xpath("//span[contains(text(),'Establishment year')]/span/text()").get()