Проверяйте каждое число до sqrt(min(a, b))
: если числа делятся на него, вы его нашли.Вы можете проверять только простые числа, если хотите.
Если вы не нашли ни одного такого числа, то проверьте, кратно ли другое число минимальному: если да, то минимальное из двух - решениеВ противном случае, нет решения.
Вы можете сделать лучше.Вы можете идти только до sqrt(gcd(a, b))
.Это должно быть достаточно быстро.