Для Windows (MSWin32, в любом случае), ack ищет в следующих местах и использует первый найденный файл:
$ENV{ACKRC}
$ENV{HOME}/.ackrc
$ENV{HOME}/_ackrc
$ENV{USERPROFILE}/.ackrc
$ENV{USERPROFILE}/_ackrc
Все, кроме первого, подлежат глобальному расширению, поэтому следите за метасимволами в переменных вашей среды.
Если не в Windows, HOME и USERPROFILE заменяются на ~ и HOME соответственно.