Первой идеей, которую я бы придумал, является сравнение значений с 0, а затем И, что с регистром, полным 1 с:
y = _mm256_and_ps(_mm256_cmp_ps(_mm256_setzero_ps(), x, _CMP_NEQ_OQ), _mm256_set1_ps(1.f));
Это будет И все 1 с в местах, где х равен 0 с кучей 0 и, к счастью, ноль IEEE 754 также является целым нулем. Другие значения получат плавающую точку 1 AND с набором из 1 и, следовательно, операцию идентификации.