HTML-код, размещенный в вашем комментарии, является неполным, но при условии, что он выглядит примерно так:
resp = """
<div class="text"><h4>ABC, Assistant Professor </h4>
<p><b>Area:</b> Natural Language Processing, Artificial Intelligence,
Computer Graphics, Computer Vision<a href=" somelink/people/Faculty/Profile/ABC.html"></a> </p> <p> <a href="/computing/people/faculty/ABC.html">Profile & Contact Information </a> | Home Page</p>
</div>
"""
попробуйте это:
from lxml.html import fromstring
tree = fromstring(resp)
xpath_ex= tree.xpath('//div[@class="text"]/p')
print(xpath_ex[0].text_content())
Выход:
Область: обработка естественного языка, искусственный интеллект, компьютерная графика, компьютерное зрение