Существует оболочка для libmagic для python - pymagic . Это самый простой способ выполнить то, что вы хотите. Имейте в виду, что магия так же хороша, как отпечатки пальцев. Вы можете иметь ложные срабатывания, если что-то «похоже» на другой формат файла, но в большинстве случаев Pymagic даст вам то, что вам нужно.
Единственное, на что следует обратить внимание, так это на «простое решение» проверки того, находится ли какой-либо из символов «вне» диапазона печати ASCII, поскольку вы, скорее всего, столкнетесь с юникодом, который будет выглядеть как двоичный (и фактически быть бинарным), хотя это просто текстовое содержание.