libMallocDebug недоступен для 64-разрядных исполняемых файлов.
% lipo -info /usr/lib/libMallocDebug.A.dylib
Architectures in the fat file: /usr/lib/libMallocDebug.A.dylib are: i386 ppc7400
Похоже, что он работает с 32-разрядными исполняемыми файлами в 10.6, хотя, например:
% lipo -thin i386 /bin/ls -out foo
% DYLD_INSERT_LIBRARIES=/usr/lib/libMallocDebug.A.dylib ./foo
libMallocDebug[foo-9141]: initializing libMallocDebug on thread 903
[...]
Я не уверен, является ли это упущением или оно никогда не переносилось в 64-разрядную среду выполнения. Вы можете попытаться зарегистрировать ошибку.
Обновление: Похоже, в обычном malloc теперь есть еще больше возможностей отладки. Это обсуждение довольно хорошее.