Вы должны открыть файл в двоичном режиме
import numpy as np
f=open('file.txt','a')
a = np.array([1.2, 2.3, 4.5])
b = np.array([6.7, 8.9, 10.11])
c = np.array([12.13, 14.15, 16.17])
np.savetxt(f, a, fmt='%1.3f', newline=", ")
f.write("\n")
np.savetxt(f, b, fmt='%1.3f', newline=", ")
f.write("\n")
np.savetxt(f, c, fmt='%1.3f', newline=", ")
f.write("\n")
f.close()