Вы используете две версии Python?
python3.x использует pip3, а python2.x использует pip
1) Установите pip3 в вашей системе.
sudo apt install python3-pip
2) Установите sympy, запустив
pip3 install sympy
3) Откройте оболочку python3 (запустите «python3» на своем терминале) и импортируйте необходимые библиотеки
from sympy import symbols, diff