Вы должны использовать это:
num = (frame[:,:,2] > 236)
если вы хотите четко указать индексы (если вы пытались вставить несколько эллипсов) или просто использовать один многоточие:
num = (frame[...,2] > 236)
Поскольку многоточие предназначено для использования только один раз, чтобы заменить столько колонов, сколько необходимо (два в вашем случае).
Тест:
>>> frame = np.meshgrid(range(0,4), range(0,2), range(0,3))[0]
>>> frame[:,:,2]
array([[0, 1, 2, 3],
[0, 1, 2, 3]])
>>> frame[...,2]
array([[0, 1, 2, 3],
[0, 1, 2, 3]])