Инструменты на самом деле не помогут вам создать формат файла или протокол ; это ручная задача, которую вы должны выполнить. Вам нужно будет разработать правила хранения данных и в какой форме будет принимать каждый элемент.
Инструменты помогут с реализацией, позволяя вам взять определение протокола и сгенерировать код C или C ++, который способен декодировать и кодировать файлы, соответствующие этому протоколу.
Компания, в которой я работаю, использует OSS Nokalva , которая является лучшей, но дорогой. Я также использовал asn1c , для личных проектов, с успехом.