Найдите переменные в вашем рабочем пространстве, которые содержат большие наборы данных, и в вашем скрипте, или в консоли типа
clear whateverVariableName
Чтобы очистить всю память, используйте
clear all
Вы можете даже щелкнуть правой кнопкой мыши отдельные переменные в редакторе рабочей области и удалить их с помощью IDE, если хотите.