Я знаю, что могу использовать htpasswd для создания файла паролей для apache, но как мне настроить его на использование действительных пользователей или групп из системы?
Вам нужно будет использовать соответствующий модуль аутентификации. Вот пример с mod_authnz_external: http://blog.innerewut.de/2007/6/26/apache-2-2-authentication-with-mod_authnz_external
mod_authnz_external