Синтаксис в приведенном вами примере приемлем для собственного расширенного текстового режима gnuplot, а также для LaTeX. Так что было бы достаточно сказать
set termopt enhanced # turn on enhanced text mode
plot 'mydat' using 1:2:3 with labels
Большинство режимов вывода gnuplot («терминалы») принимают это.
Но расширенный текстовый режим gnuplot работает только с небольшим подмножеством LaTeX. Если вам нужны более сложные вещи, вам нужно использовать один из терминалов LaTeX. В этом случае не включите расширенный текстовый режим, поскольку вы хотите передать всю строку в LaTeX без обработки.