ОК, поэтому я нашел причину этого сбоя.
Несмотря на то, что тест глубины был отключен, и фрагментный шейдер отбрасывал определенные пиксели, делая их прозрачными, треугольники все еще были закрыты из-за записи в буфер глубины.
Мне пришлось отключить запись в буфер глубины с помощью этого кода:
GLES20.glDepthMask(false);
Очевидно, что запись в буфер глубины была отключена и в Rendermonkey, в результате чего получилось правильное изображение.
Спасибо за ваши ответы ниже, но мне не нужно использовать альфа-смешивание - мне нужно использовать альфа-тестирование, и оно не требует сортировки треугольников.