Нет необходимости делать что-то особенное. Как я вижу в вашем коде, вы уже используете правильную ссылку:
CollectionReference NewCategory = NC
.collection("Categories")
.document("tUdFCajDcQT995jX6G4k")
.collection(category_name.getText().toString());
category_name.getText().toString()
, являющееся именем вложенной коллекции, но проблема возникает в следующей строке кода:
NewCategory.add()
Где вы не передаете ничего в качестве аргумента. Вы должны передать пользовательский объект или карту, чтобы иметь возможность что-то записать в базу данных.