Amit,
Боты Azure обычно запускаются как службы приложений Azure. Служба приложений Azure имеет встроенные возможности масштабирования. В зависимости от уровня ценообразования, выбранного для службы приложений, вы можете масштабировать до 20 экземпляров. Вы можете перейти к 100 экземплярам, если вы находитесь в «изолированном» уровне. Вы также можете увеличить масштаб, чтобы добавить память и процессор. Это действительно мощные ресурсы, которые вы можете использовать.
Я понимаю, что вы пытаетесь уменьшить задержку, но я хотел сначала указать на функцию масштабирования. У вас есть еще одна проблема, которую я не думаю, если это возможно преодолеть в это время.
Если MS Teams - единственный канал, которым будут пользоваться пользователи, то попытка самостоятельно управлять трафиком, вероятно, окажется неэффективной. Вы ограничены тем, где находится служба MS Teams. Команды - это то, что говорит с вашим ботом, а не с пользователем напрямую.
Путь примерно такой:
Пользователь -> Команды MS -> Служба Azure Bot -> Служба приложений Azure.
Поскольку у вас нет контроля над соединением между командами и ботами, вы не можете управлять трафиком.
Вы можете развернуть несколько ботов в разных регионах, а затем дать указание своим пользователям подключаться к соответствующему региональному каналу ботов в командах. Это не автоматическое управление трафиком, но, по крайней мере, обеспечит некоторую поддержку региона, которую вы ищете.