С тех пор как я задал вопрос, сейчас в Интернете довольно много документов, в которых подробно описывается, как работает система Android Build.
Например, пост в блоге, подобный этому , объясняет все довольно хорошо.
Да, это как-то связано с файлом Android.mk, но нет, это не просто добавление файлов.
В принципе, для каждого создаваемого вами нового модуля вам нужно создать новый.Файл Android.mk, присвойте ему имя модуля (установив LOCAL_MODULE), затем убедитесь, что в местах, на которые ссылается этот модуль, есть соответствующие файлы Android.mk, включающие указатель на модуль (например, настройка LOCAL_STATIC_LIBRARIES).
О, и помните порядок сборки в Android.