Сначала убедитесь, что у вас создано три объекта группы, соответствующих вашим группам.
Далее необходимо ограничить выбор в админке. Я не уверен, хотя, я думаю, что группа находится в форме пользователя? Вот одно решение, которое немного хакерское. Переопределите UserChangeForm с http://code.djangoproject.com/browser/django/trunk/django/contrib/auth/admin.py и используйте его в качестве пользовательской формы в администраторе.
class UserForm(UserChangeForm):
def __init__(self, *args, **kwargs):
super(UserChangeForm, self).__init__(*args, **kwargs)
names = ['student','instructor','dean']
self.fields['groups'] = forms.ModelChoiceField(queryset=Group.objects.filter(name__in=names))
class MyUserAdmin(UserAdmin):
form = UserForm
admin.site.unregister(User)
admin.site.register(User, MyUserAdmin)