что вы хотите добиться - это поместить хороших хозяев в хорошие группы.если вы знакомы с ansible-inventory --graph, вот что вы хотите достичь:
@all:
|--@dev:
| |--devel1.domain.org
| |--devel2.domain.org
|--@db:
| |--db1.domain.org
| |--db2.domain.org
| |--dbprod1.domain.org
| |--appprod2.domain.org
|--@app:
| |--app1.domain.org
| |--app2.domain.org
| |--appprod1.domain.org
| |--appprod2.domain.org
|--@dev1:
| |--devel1.domain.org
| |--db1.domain.org
| |--app1.domain.org
|--@dev2:
| |--devel2.domain.org
| |--db2.domain.org
| |--app2.domain.org
|--@prod:
| |--@prod1:
| | |--dbprod1.domain.org
| | |--appprod1.domain.org
| |--@prod2:
| | |--appprod2.domain.org
здесь хост appprod2.domain.org
будет наследовать от group_vars app, db, prod, prod2