Я думаю, что вы хотите обновить соединение здесь без подзапроса:
UPDATE qn_answers qa
INNER JOIN questions q
ON qa.QSN_ID = q.ID
SET GRADE = -100
WHERE
q.QSN_TYPE_ID = 3 AND
qa.ISCORRECT = 0 AND
qa.GRADE = 0;
Сообщение об ошибке связано с тем, что вы используете целевую таблицу qn_answers
как часть объединения.Вы не можете сделать это напрямую в обновлении MySQL.