При создании паролей с помощью htdigest 'realm' должен соответствовать директиве 'AuthName' в вашей конфигурации Apache.
Например, если ваша конфигурация для дайджеста содержит это:
AuthName abc1234xyz
тогда команда htdigest для создания пользователей будет выглядеть так:
htdigest /path/to/digestfile abc1234xyz username