Вам не хватает нескольких паренов.
Исправлено:
answer="\( $x + $y \) \* \( $x + $y \) \* \( $x + $y \) = $(( ($x + $y ) * ($x + $y) * ($x + $y) ))"
Надеюсь, это поможет.
PS, как будто вы новый пользователь, еслиВы получите ответ, который поможет вам, не забудьте пометить его как принятый и / или дать ему + (или -) в качестве полезного ответа.