Clam AntiVirus имеет API, доступный под GNU GPL, который вы, вероятно, можете добавить в SWIG .
Если по какой-либо причине вы не хотите, чтобы их код использовался в вашем процессе, вы также можете использовать их (очень простой) протокол сокетов: откройте сокет и отправьте ему SCAN имя файла или отправьте его в STREAM и он вернет номер порта, на который затем можно отправить поток байтов для сканирования.