Похоже, что он вызывает 0
как указатель на функцию (с сигнатурой, что он принимает не параметры и имеет тип возврата void) и затем вызывает его.
( ( void(*)() ) 0 ) ();
/* cast..*/ /* fn pointer signature */ /*..cast 0 */ /* invocation */
Это еще один способ сказать, что он пытается вызвать (вызвать) функцию, которая, как ожидается, будет расположена в памяти по адресу 0x00000000 - который гарантированно будет недействительным.