layoutopt.exe в папке SDK / tools для Android.
Где я могу найти правила, с которыми он работает и т.д.?
Поможет расположение исходного кода.
Я обнаружил, что Apache Groovy Framework используется для реализации механизма правил. В каждом макете (XML) реализовано 11 правил, применяемых Layoutopt. проверьте следующую ссылку для более подробной информации.
http://kpbird.blogspot.ru/2011/08/android-in-depth-how-layoutopt-works.html
Сайт source.android.com - хорошее место для старта.
Есть раздел для SDK - https://android.googlesource.com/platform/sdk
И вы можете развернуть папку layoutopt :