Я бы просто оставил это как комментарий, но не могу (слишком низкая репутация), но пытаюсь упростить ваш код:
DSolve[{D[y1[t, y2[t]], t] == 3*y1[t, y2[t]], D[y2[t], t] == 2*y1[t, y2[t]], y1[0, 0]
== 0,
y2[0] == 2}, {y1[t, y2[t]], y2[t]}, t]
выдает ошибку
DSolve::ivar2: The independent variable t should not appear in two different arguments of the dependent variable y1[t,y2[t]].
Так что я не совсем уверен, сможете ли вы заставить Mathematica делать то, что вы просите, если я правильно понимаю, что вы хотели. Я предлагаю спросить у Mathematica Stack Exchange , так как они, скорее всего, гораздо более опытны с этими типами проблем.