Вы не слишком ясны.
Я предполагаю, что у вас есть файл с этими символами (кстати, текстовый файл, а не двоичный), и вы хотите прочитать его построчно, затем разделить каждую строку на «3D» и затем сохранить каждую часть в символ *.
Прежде всего, прочитайте об открытии файла для чтения и о том, как читать построчно, вы найдете его в любом уроке.
Во-вторых, используйте strtoken (), чтобы разделить строку на «3D». Помните, что на данный момент это всего лишь текст, забудьте о hex.
Позже вы можете использовать scanf () для чтения каждой части в шестнадцатеричном виде и сохранения их в char *, затем вы можете сравнить это и сохранить то, что хотите.
Если файл является двоичным, то вам нужно искать функцию getc () или gets (), но идея та же. На втором шаге, если вам нужно разделить его на шестнадцатеричное значение 0x3d, просто сделайте это.