數(shù)學(xué)優(yōu)化與機(jī)器學(xué)習(xí)

數(shù)學(xué)優(yōu)化(或數(shù)學(xué)規(guī)劃)是一個強(qiáng)大的決策工具。通過制定目標(biāo)并指定約束條件和變量，數(shù)學(xué)優(yōu)化可以幫助在當(dāng)前現(xiàn)實環(huán)境下做出最佳決策。它已經(jīng)在航空、物流、電力和金融等許多不同行業(yè)證明了其價值。

機(jī)器學(xué)習(xí)是人工智能的一個分支領(lǐng)域。計算機(jī)可以識別數(shù)據(jù)中的模式并學(xué)習(xí)預(yù)測未來，可以進(jìn)行聚類、檢測異常或生成新的音樂或圖像。機(jī)器學(xué)習(xí)的三種類型(有監(jiān)督、無監(jiān)督和強(qiáng)化學(xué)習(xí))可以應(yīng)用于所有行業(yè)，比如醫(yī)療保健，甚至是藝術(shù)。機(jī)器學(xué)習(xí)模型都是關(guān)于概率的，并預(yù)測將發(fā)生事情的概率

兩種方法各有優(yōu)缺點。當(dāng)數(shù)據(jù)變化太多時，機(jī)器學(xué)習(xí)模型就變得毫無用處，模型需要重新訓(xùn)練或從頭開始重建。數(shù)學(xué)優(yōu)化需要良好的數(shù)學(xué)描述，它不能像機(jī)器學(xué)習(xí)那樣處理非結(jié)構(gòu)化數(shù)據(jù)。此外，如果問題變得太大，您可能需要一個商業(yè)解決程序來解決問題，這可能是相當(dāng)昂貴的。

有些問題更適合機(jī)器學(xué)習(xí)，而另一些問題則更適合數(shù)學(xué)優(yōu)化。當(dāng)您希望發(fā)現(xiàn)數(shù)據(jù)中的模式、查找相似的數(shù)據(jù)樣本或預(yù)測天氣時，應(yīng)該使用機(jī)器學(xué)習(xí)。如果您想創(chuàng)建一個時間表，找到設(shè)施的最佳位置或最小化問題的成本，數(shù)學(xué)優(yōu)化是更好的選擇。

如何結(jié)合數(shù)學(xué)優(yōu)化和機(jī)器學(xué)習(xí)呢？

將數(shù)學(xué)優(yōu)化和機(jī)器學(xué)習(xí)結(jié)合起來是很有用的。它們有不同的優(yōu)點和缺點，有些問題太復(fù)雜，不能只使用兩者中的一種。它們可以相互補充。這里有四種方法和實際例子，告訴你如何將它們結(jié)合起來。

1. 使用機(jī)器學(xué)習(xí)預(yù)測作為優(yōu)化模型中的約束

首先，您使用機(jī)器學(xué)習(xí)進(jìn)行預(yù)測，這些預(yù)測被用作優(yōu)化問題的輸入。您可以使用機(jī)器學(xué)習(xí)模型的輸出設(shè)置約束。

示例:使用機(jī)器學(xué)習(xí)預(yù)測觀看人數(shù)，使用它們作為輸入來創(chuàng)建一個優(yōu)化的最佳計劃

假設(shè)你是一家平臺的數(shù)據(jù)科學(xué)家，你向其他公司出售廣告空間。廣告商購買播放時間，平臺根據(jù)經(jīng)驗猜測有多少人會看到廣告商的廣告。作為數(shù)據(jù)科學(xué)家，您希望以最好的方式使用廣告空間。首先，使用機(jī)器學(xué)習(xí)根據(jù)歷史數(shù)據(jù)預(yù)測觀看數(shù)據(jù)。然后，創(chuàng)建一個使用觀看數(shù)據(jù)為輸入的優(yōu)化模型。你通過觀看數(shù)據(jù)來優(yōu)化計劃。通過這樣做，你可以使平臺的利潤最大化。

2. 使用優(yōu)化決策作為機(jī)器學(xué)習(xí)模型中的訓(xùn)練特征

與方法 1 相比，這是相反的方式：首先優(yōu)化模型做出決策，決策被用作機(jī)器學(xué)習(xí)模型中的特征。實際上，這種方法不太常見，因為大多數(shù)決策 (MO) 都遵循預(yù)測 (ML)。這種方式可能在特定項目中很有用。

示例:在機(jī)器學(xué)習(xí)模型中使用運輸決策

數(shù)學(xué)優(yōu)化在物流中有著廣泛的應(yīng)用。如果您使用優(yōu)化來決定需要從生產(chǎn)工廠運送到市場的供應(yīng)量，它可以節(jié)省大量時間、金錢和資源。在獲得這些結(jié)果之后，您可以將它們用于機(jī)器學(xué)習(xí)問題中，例如預(yù)測特定日期每個工廠需要多少員工。

3.利用機(jī)器學(xué)習(xí)輸出來確定數(shù)學(xué)優(yōu)化模型的范圍

除了在優(yōu)化問題中直接使用機(jī)器學(xué)習(xí)輸出外，您還可以選擇將它們獨立地結(jié)合起來。您可以在同一個項目中使用它們，但不是在同一個過程中。您可以使用機(jī)器學(xué)習(xí)輸出來簡化數(shù)學(xué)優(yōu)化問題:您可以使用機(jī)器學(xué)習(xí)確定優(yōu)化模型的范圍。這里的一個額外好處是優(yōu)化模型可以在更短的時間內(nèi)求解。

示例:使用預(yù)測性維護(hù)和聚類來確定路由問題的范圍

在這個例子中，我們來看一家修理電源箱的公司。他們的修理工數(shù)量有限，希望以最好的方式使用這些修理工。首先，您可以使用預(yù)測性維護(hù)(機(jī)器學(xué)習(xí))來決定哪些電源箱具有最高的故障風(fēng)險。然后，使用聚類(機(jī)器學(xué)習(xí))對高風(fēng)險電源箱進(jìn)行聚類。聚類是因為您希望一組電源箱彼此靠近。您可以選擇與可用的修理工數(shù)量相等的聚類數(shù)量。最后，通過數(shù)學(xué)優(yōu)化，您可以創(chuàng)建每個聚類的電源箱之間的最佳路線，每個修理工都有一條路線。

4. 利用優(yōu)化來解決機(jī)器學(xué)習(xí)問題

你可以使用優(yōu)化來為機(jī)器學(xué)習(xí)問題找到一個最優(yōu)的參數(shù)集。機(jī)器學(xué)習(xí)和數(shù)學(xué)優(yōu)化在這里是緊密結(jié)合在一起的，因為在機(jī)器學(xué)習(xí)問題中使用了優(yōu)化。下面的例子表明，混合整數(shù)規(guī)劃(MIP)已經(jīng)證明了它在解決一個經(jīng)典研究問題中的價值。

例:求解線性回歸中的最佳子集選擇問題

在構(gòu)建回歸模型時，去除不相關(guān)的特征會使模型更容易解釋，并且也不容易過度擬合數(shù)據(jù)。很難找到特征的最優(yōu)子集，稱為最佳子集選擇問題。在過去的幾十年里，混合整數(shù)規(guī)劃(數(shù)學(xué)優(yōu)化)在速度上有了顯著的提高，這使得在現(xiàn)有問題上測試它很有用。

最后

希望本文能啟發(fā)您嘗試數(shù)學(xué)優(yōu)化和機(jī)器學(xué)習(xí)的有趣結(jié)合!它們適用于不同類型的問題，并且可以相互補充。除了明顯的方法(使用一個的輸出作為另一個的輸入)之外，還有其他方法可以將它們組合起來。你可以將它們松散地結(jié)合起來，就像第三種方法一樣，使用機(jī)器學(xué)習(xí)來確定優(yōu)化問題的范圍?；蛘吣梢詫⑺鼈兙o密集成以解決研究問題，如最后一個示例所示。