Вы должны сгруппировать по sem, чтобы получить максимальные оценки для каждого sem в подзапросе, если у вас есть максимальная оценка для каждого sem, вы можете использовать IN для такого подзапроса, как этот,
SELECT *, mark1+mark2+mark3 AS maxmark
from student
where (sem, mark1 + mark2 + mark3) in (
SELECT sem, MAX(mark1 + mark2 + mark3) AS maxmark
FROM student
GROUP BY sem )
output
|id| name | mark1| mark2| mark3| sem| maxmark|
|2 | John | 10 | 8 | 10 | 1 | 28 |
|5 | Ammy | 9 | 9 | 9 | 2 | 27 |
|6 | Kate | 10 | 7 | 10 | 2 | 27 |
вы можете узнать больше об этом из Интернета, https://www.techonthenet.com/mysql/in.php удачи, надеюсь, это помогло.