Поскольку вы автоматически запускаете программы учеников, возможно, что их программы написаны плохо и используют больше оперативной памяти, чем требовались аналогичные программы, написанные более опытными программистами. Даже программы на Java и Python могут быть написаны таким образом, чтобы утечка памяти (подумайте о стеке, который никогда не извлечет из него ничего, только добавит больше вещей).
Вы должны проверить свою установку с известными хорошими реализациями заданий, которые вы собираетесь оценивать как проверку работоспособности.
Вы также должны посмотреть на исходный код для работы студентов. Особенно, если вы получили ошибку при их назначении.
У вас также может быть перегруженная система, и вам может потребоваться запустить эти тесты на другом компьютере. Использование машины, у которой нет других пользователей, является хорошей идеей для такого рода вещей, поскольку вещи, которые находятся за пределами вашей программы и программы, которую вы тестируете, вряд ли испортят ваши тесты.
Возможно, вы также захотите продолжать работать на этой машине на другом терминале, пока вы запускаете тест для мониторинга использования ресурсов.