Я полагаю, вы имеете в виду что-то вроде этого:
In [32]: x, y = symbols('x, y')
In [33]: M = Matrix([[1, 1], [0, 1], [0, 0]])
In [34]: xy = Matrix([x, y])
In [35]: XY = Matrix([-1, 1])
In [36]: M
Out[36]:
Matrix([
[1, 1],
[0, 1],
[0, 0]])
In [37]: M*xy
Out[37]:
Matrix([
[x + y],
[ y],
[ 0]])
In [38]: solve(Eq(M*xy, M*XY), [x, y])
Out[38]: {x: -1, y: 1}
Вы можете найти матрицу, сформировав расширенную матрицу и используя rref:
In [39]: Matrix.hstack(M, eye(3)).rref()
Out[39]:
⎛⎡1 0 1 -1 0⎤ ⎞
⎜⎢ ⎥ ⎟
⎜⎢0 1 0 1 0⎥, (0, 1, 4)⎟
⎜⎢ ⎥ ⎟
⎝⎣0 0 0 0 1⎦ ⎠
In [40]: Matrix.hstack(M, eye(3)).rref()[0][:2,2:]
Out[40]:
Matrix([
[1, -1, 0],
[0, 1, 0]])
In [41]: M.pinv()
Out[41]:
Matrix([
[1, -1, 0],
[0, 1, 0]])