Ожидаете ли вы, что после начального этапа заполнения будет много ключевых выборок?Если так, объедините все в один словарь.Если вы будете делать только несколько выборок, я не вижу, как вы могли бы справиться лучше, чем спрашивать каждый словарь.
Конечно, вы можете создать гибридный подход: создатьновый (изначально пустой) словарь для объединенных результатов и заполните его, когда вас просят о ключах - просматривая все остальное каждый раз, когда вас просят о ключе, которого еще нет в вашем «большом» словаре.
Нет ли способа предсказать, какой словарь будет иметь определенный ключ?