Вы должны открыть файл в двоичном режиме для записи двоичных данных
outputfile.open("binary.dat", ofstream::binary)
Примечание : предполагается, что вы собираетесь просто записать двоичный файл представление вашей текстовой строки, а не обрабатывать вашу строку как шестнадцатеричные значения, как было упомянуто в комментариях