Не уверен, что вы можете решить формат самостоятельно, но в любом случае:
Альтернативная стратегия - записать целочисленное значение в первое место файла, которое содержит количество байтов, используемых для раздела ascii.
Затем вы можете просто прочитать это количество байтов, и также можно легко пропустить ascii и перейти непосредственно к двоичному двоичному объекту.
Эта стратегия эффективна, но вы не можете изменить количество текстовых символов ascii без изменения количества.
Кстати, не забывайте обрабатывать ввод: не пытайтесь прочитать больше данных, чем файл содержит или выделить больше памяти, чем способен компьютер.
Лично я бы также использовал первые пару символов файла, которые содержат некоторый магический код, чтобы вы могли минимально проверить, использует ли файл ваш формат данных и какую версию формата данных.