Я думаю, что вы пойманы нотационными свободами, взятыми автором. Тип возвращаемого значения δ (R), скорее всего, является множеством, точнее языком. Если вы посмотрите на определение:

вы можете видеть, что есть несоответствие в возвращаемом типе, формально λ является элементом, но ∅ является пустым языком ... То, что он должен сказать, это:

Тот факт, что автор использует λ как для пустой строки, так и для языка, содержащего только пустую строку, дополнительно подтверждается его определением звездного оператора Клини:

Очевидно, последняя часть должна быть
, если мы хотим быть педантичной.
Учитывая, что тип возвращаемого значения δ (R) является множеством или, скорее, языком, уравнения, которые вы даете, имеют смысл и точно выражают то, что вы описали.