Очевидно, что TeX может открывать и записывать файлы в обычном режиме, что является возможным вектором атаки. Помещение казни в песочницу или тюрьму должно позаботиться об этом.
Обязательно отключите \write18, что позволяет исходному файлу TeX выполнять команды ОС. Нет веских причин разрешать этот механизм.
Что касается самого интерпретатора TeX, я бы сказал, что беспокоиться о нем очень мало, поскольку он, вероятно, содержит наименьшее количество ошибок среди всех полнофункциональных интерпретаторов, когда-либо написанных. Другая часть вашего стека будет гораздо большей целью.