На самом деле это проще. Предположим, что был использован один из стандартных методов, возможно, в начале есть несколько магических байтов. Я предлагаю изменить значения шестнадцатеричных первых 3-4 байтов и спросить Google.
Не имеет смысла разрабатывать ваши собственные сжатия, так что ... если только не было особого случая или программист глуп, он использовал один из хорошо известных методов сжатия. Вы также можете взять библиотеки самых популярных и просто попробовать то, что они говорят.