Строго говоря, ответ на ваш вопрос - response.xpath('/html/body/tbody/tr/td/div/following::text()').extract_first().strip()
, но в данном случае это также текст в td
.Таким образом, вы также можете сделать что-то вроде "".join(i.strip() for i in response.css('td::text').extract())
.