Существует множество ядер ОС с доступным источником, но у меня есть ощущение, что попытаться разобраться в них будет очень сложно.Производственное ядро - сложная часть работы, поэтому трудно понять теорию, стоящую за ним, взглянув на код.
Что вам, вероятно, нужно, это симулятор ОС, который фокусируется на преподавании теории.Мы написали свои собственные в моих классах ОС.Просто быстрый поиск в Google нашел этот список из нескольких из них:
http://vip.cs.utsa.edu/simulators/