Руководство, которым вы следуете, - это настройка и использование Cloud SQL в приложении GAE.
app.yaml
является обязательной (частью) конфигурации приложения GAE и должна находиться в каталоге, из которого в дальнейшем в руководстве вы запустите сервер разработки и развернете свое приложение..
В коде руководства на github файл имеет вид app.yaml