Нет лучше здесь, это разные подходы.
В Grid Search вы пробуете все возможные комбинации гиперпараметров в некоторых диапазонах.
В Bayesian вы не пробуете все комбинации, вы ищете в пространстве изучения гиперпараметров, когда вы их пробуете. Это позволяет избежать попытки ВСЕХ комбинаций.
Таким образом, преимуществом Grid Search является то, что вы исчерпываете, а преимуществом Bayesian является то, что вам не нужно, в основном, если вы можете с точки зрения вычислительной мощности перейти на Grid Search, но если пространство для поиска слишком большой, перейдите на Bayesian.