Кажется, вы записываете неинициализированные переменные в выходной файл, что приводит к неопределенному поведению.
Я подозреваю, что ваш C.txt
файл не содержит матрицу 5x5, которую ищет ваша программа.
Вы должны добавить простую проверку ошибок, например ::1006
for(i=0; i<I; i++)
for(j=0; j<J; j++)
if (!(inFile >> C[i][j])) { /* something's wrong here */ }