Не уверен, что это еще не завершено или какую версию вы использовали, но на данный момент GLES11.glGetFloatv имеет 2 перегрузки, а для той, которая использует float [16], требуется 3 параметра.Тот, у кого 2 параметра, получает FloatBuffer.Это работает для меня:
float[] model_matrix = new float[16];
GLES11.glGetFloatv(GLES11.GL_MODELVIEW_MATRIX, model_matrix, 0);