Я кратко просмотрел документацию Alternativa3D и не смог найти материалы или шейдеры для этого. Сможете ли вы использовать альтернативный 3D API, например Away3D ?
Если это так, Away3D уже предлагает материал CellShaded, как вы можете видеть в этом образце :
Кроме того, у вас есть источник для приведенного выше примера:
var material : ColorMaterial = new ColorMaterial(0xfbcbc1);
material.ambientColor = 0xdd5525;
material.ambient = 1; //0xdd5525;
material.specular = .25;
material.diffuseMethod = new CelDiffuseMethod(3);
material.specularMethod = new CelSpecularMethod();
material.addMethod(new OutlineMethod(0x000000, 2/50));
CelSpecularMethod(material.specularMethod).smoothness = .01;
CelDiffuseMethod(material.diffuseMethod).smoothness = .01;
material.lights = [ _light, _light2, _light3 ];