Для снятия флажков установите для свойства «Значение» значение 0 (или любое другое свойство «Мин», если вы его изменили). Это будет выглядеть так:
set(hCheck1,'Value',0);
%OR
set(hCheck1,'Value',get(hCheck1,'Min')); % If 'Min' is something besides 0
Здесь hCheck1 является дескриптором первого флажка (который, я думаю, вы можете получить из структуры дескрипторов при создании GUI в GUIDE). Затем вы должны повторить это для каждого из двух других флажков. Если флажок уже снят, вышеуказанное не будет иметь никакого эффекта.