Эта ошибка не имеет ничего общего с UIAutomatorViewer, но, поскольку это старый инструмент, он может полагаться на 32-битный JDK. Вы можете проверить это ответ для исправления.
Если вы используете Appium, UIAutomatorViewer , очевидно, плохой выбор, поскольку Appium больше не использует оригинальный UIAutomator под капотом: он устарел в пользу драйверов UiAutomator2 и Espresso
Вам лучше попробовать официальный рабочий стол Appium вместо