В чем разница между оптимизацией линейного программирования и оптимизацией градиентного спуска?

Question

В задаче линейного программирования мы формулируем две линейные функции и функцию оптимизации.где мы находим точки, где две линейные функции пересекаются и подставляют эти значения в функцию оптимизации, чтобы получить максимум или минимум.

Чем это отличается от градиентной достойной оптимизации.Кто-нибудь может уточнить это математически.Оба метода достигают глобального максимума или минимума?что лучше?

Answer 1

• линейное программирование находит веса, которые оптимизируют эту линейную комбинацию. гарантировано для работы, но работает только для функций с линейными комбинациями
• градиентный спуск может работать на любой функции , еслиВы знаете его производную.Тем не менее, он гарантированно работает, только если функция выпуклая.В противном случае он застрянет на локальном оптимуме

Так что выбора действительно нет.Если у вас есть линейная комбинация, лучше использовать линейное программирование.В любом другом случае, градиентный спуск - ваш единственный выбор.