Конечно, вы не сможете просматривать различия в двоичных файлах, но любой файл может быть помещен в систему управления версиями.
У меня никогда не было проблем с двоичными файлами в SVN, но если вы не будете осторожны, в некоторых других SCM (Git, возможно, в других) они могут быть повреждены.
Если вы используете SVN, еще одна вещь, которую следует учитывать, это то, что каждый раз, когда вы загружаете новую версию бинарного файла, объем пространства, используемого вашим репо, будет расти так же, как размер бинарного. Это происходит потому, что не имеет смысла различать двоичные файлы, поэтому каждая последующая копия должна храниться целиком. Поэтому, если возникает проблема с дополнительным пространством хранения на сервере или у вас большие двоичные файлы, вы можете рассмотреть альтернативное решение.
Так ... вы используете SVN? :)