Попробуйте это обновление:
UPDATE employees
SET `group` = FLOOR( 1 + RAND( ) *10 )
WHERE `group` IS NULL;
В качестве примечания, GROUP
является зарезервированным ключевым словом MySQL, и вы должны избегать именования его столбцов и т. Д., Используя его.