Используйте параметр -P, например:
mysql -h 127.0.0.1 -P 3307 -u имя_пользователя -p имя_базы_данных
Важно: если вы подключаетесь к localhost - используйте -h 127.0.0.1, НЕ localhost, потому что MySQL будет подключаться через файловый сокет, а не по TCP