Я думаю, что вы находитесь на правильном пути с NCURSES_NO_UTF8_ACS - tmux будет использовать UTF-8 для рисования ACS по умолчанию, если он думает, что терминал поддерживает его (потому что ваш LANG содержит UTF-8), поэтому, похоже, ваш терминал поддерживает UTF-8, но не поддерживает ACS должным образом. Работает ли следующее вне tmux (должно отображать символы, а не ASCII):
tput enacs; tput smacs; tput acsc; tput rmacs; echo
Современные ncurses также должны использовать UTF-8, я не знаю, почему это не так. Возможно, вы захотите проверить, какую версию ncurses вы используете, и, возможно, попробовать более новую, есть также возможность U8 terminfo (5), вы можете попробовать пользовательскую запись с этим значением 0 или 1.