"this" - это ключевое слово, и вы пытаетесь определить его как переменную.
Вы либо идете в область действия объекта
this['circle'+i] = new circle();
или локальный охват
var c:circle = new circle();
или массив / вектор области видимости объекта (лучший)
var circles:Array = new Array() // (outside the function)
circles[i] = new circle() // (instead of this['circle'+i] = new circle();)
Кроме того, классы идут в верхнем регистре первыми ( Круг , а не круг ), и вы хотите выполнить цикл, пока i <5 </em>, а не i == 5