Может быть, проще всего прекратить пытаться понять , как число может быть квадратным корнем из отрицательного числа, и просто продолжайте предполагать, что это так.
Итак (используя i в качестве квадратного корня из -1):
(3+5i)*(2-i)
= (3+5i)*2 + (3+5i)*(-i)
= 6 + 10i -3i - 5i * i
= 6 + (10 -3)*i - 5 * (-1)
= 6 + 7i + 5
= 11 + 7i
работает в соответствии со стандартными правилами математики (помня, что я в квадрате равен -1 в четвертой строке).