Я на одной лодке.У меня есть только каскад на удаление в EDM / EF4 и нет (пока) в базе данных.Попробуйте это ...
В отношении установите для OnDelete конца родительского элемента (1 кратность) значение Cascade.Затем в вашем коде загрузите все дочерние элементы перед сохранением изменений (удаление).
var parent = context.Parents.SingleOrDefault(p => p.Id == parentId);
parent.Children.Load();
if (parent != null)
{
context.Parent.DeleteObject(parent);
context.SaveChanges();
}