Я потратил много часов, пытаясь решить эту проблему, но до сих пор не могу понять, почему это происходит. Я видел много примеров использования RatioResolutionPolicy и не нашел ошибок в своем коде, разница только в том, что все примеры выполняются в горизонтальной, а не в портретной ориентации. Вот мой код:
this.mCamera = new Camera(0, 0, 320, 480);
final EngineOptions engineOptions = new EngineOptions(true,
ScreenOrientation.PORTRAIT, new RatioResolutionPolicy(320, 480), mCamera);
return new Engine(engineOptions);
А вот результат на экране 854x480: 
У кого-нибудь есть идеи? Спасибо.