前面我們介紹了用于時(shí)間序列概率預(yù)測(cè)的分位數(shù)回歸，今天繼續(xù)學(xué)習(xí)基于概率預(yù)測(cè)的時(shí)間序列概率預(yù)測(cè)方法--共形預(yù)測(cè)。

現(xiàn)實(shí)世界中的應(yīng)用和規(guī)劃往往需要概率預(yù)測(cè)，而不是簡(jiǎn)單的點(diǎn)估計(jì)值。概率預(yù)測(cè)也稱為預(yù)測(cè)區(qū)間或預(yù)測(cè)不確定性，能夠提供決策者對(duì)未來(lái)的不確定性狀況有更好的認(rèn)知。傳統(tǒng)的機(jī)器學(xué)習(xí)模型如線性回歸、隨機(jī)森林或梯度提升機(jī)等，旨在產(chǎn)生單一的平均估計(jì)值，而無(wú)法直接給出可能結(jié)果的數(shù)值范圍。如何從點(diǎn)估計(jì)擴(kuò)展到預(yù)測(cè)區(qū)間，正是現(xiàn)代時(shí)間序列建模技術(shù)所關(guān)注的重點(diǎn)。

在預(yù)測(cè)建模中，我們知道模型的目標(biāo)是為條件均值給出無(wú)偏估計(jì)。估計(jì)值與實(shí)際樣本值之間的差距被稱為誤差，體現(xiàn)了模型的不確定性。那么，如何量化這種不確定性呢?由于誤差代表了估計(jì)值與實(shí)際值之間的偏差，因此我們可以通過(guò)分析誤差的分布來(lái)量化不確定性的程度。

共形預(yù)測(cè)(Conformal Prediction，CP)正是一種基于這一思路的預(yù)測(cè)方法。它利用歷史數(shù)據(jù)，根據(jù)新的預(yù)測(cè)樣本點(diǎn)在已知誤差分布中的位置，為這個(gè)新預(yù)測(cè)給出一個(gè)范圍估計(jì)，使其以期望的置信度(如95%)落入此范圍內(nèi)。值得注意的是，CP是一種與具體模型無(wú)關(guān)的元算法，可以應(yīng)用于任何機(jī)器學(xué)習(xí)模型，從而將點(diǎn)估計(jì)擴(kuò)展到概率預(yù)測(cè)區(qū)間。

概率預(yù)測(cè)的優(yōu)勢(shì)在于，它不僅給出預(yù)測(cè)的平均水平，還能提供相應(yīng)的不確定性量化信息。這種額外的不確定性信息對(duì)風(fēng)險(xiǎn)管理、決策優(yōu)化等應(yīng)用場(chǎng)景至關(guān)重要。比如在供應(yīng)鏈、庫(kù)存管理等領(lǐng)域，通過(guò)概率預(yù)測(cè)可以權(quán)衡需求波動(dòng)的風(fēng)險(xiǎn)，制定更加魯棒的規(guī)劃策略。

什么是共形預(yù)測(cè)

Conformal Prediction是一種非參數(shù)方法，用于生成具有概率保證的預(yù)測(cè)區(qū)域。它不依賴于特定的概率分布假設(shè)，而是通過(guò)計(jì)算數(shù)據(jù)點(diǎn)的“相似性”或“一致性”來(lái)產(chǎn)生預(yù)測(cè)。這種方法可以應(yīng)用于各種類(lèi)型的輸入數(shù)據(jù)（如連續(xù)變量、分類(lèi)標(biāo)簽、時(shí)間序列等）和輸出（如回歸、分類(lèi)、排序等）。

技術(shù)分析

該項(xiàng)目實(shí)現(xiàn)了一套Python庫(kù)，包含多種算法，如Inference for Regression, Multi-class Classification等，以支持Conformal Prediction的應(yīng)用。關(guān)鍵步驟包括：

• 訓(xùn)練集準(zhǔn)備：首先，對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，并將其分為訓(xùn)練集和驗(yàn)證集。
• 構(gòu)建基礎(chǔ)模型：利用訓(xùn)練集訓(xùn)練一個(gè)基礎(chǔ)預(yù)測(cè)模型（如線性回歸、決策樹(shù)或神經(jīng)網(wǎng)絡(luò)）。
• 計(jì)算非conformity分?jǐn)?shù)：對(duì)于每個(gè)驗(yàn)證集樣本，使用模型生成預(yù)測(cè)，并計(jì)算其與實(shí)際觀測(cè)值的非conformity分?jǐn)?shù)。
• 確定閾值：通過(guò)將這些非conformity分?jǐn)?shù)排序并應(yīng)用α-level，確定劃分預(yù)測(cè)區(qū)間的閾值。
• 預(yù)測(cè)階段：對(duì)于新的未標(biāo)記數(shù)據(jù)，根據(jù)該閾值生成預(yù)測(cè)區(qū)間。

這種框架允許用戶在保持預(yù)測(cè)性能的同時(shí)，為預(yù)測(cè)誤差提供嚴(yán)格的概率保證。

應(yīng)用場(chǎng)景

• 金融風(fēng)險(xiǎn)評(píng)估：在信貸評(píng)分中，可以預(yù)測(cè)未來(lái)的違約概率，并給出置信區(qū)間，幫助金融機(jī)構(gòu)做出更穩(wěn)健的決策。
• 醫(yī)學(xué)診斷：在醫(yī)療預(yù)測(cè)中，可以估計(jì)治療效果的范圍，為醫(yī)生提供更全面的信息。
• 市場(chǎng)趨勢(shì)預(yù)測(cè)：在商業(yè)環(huán)境中，可以預(yù)測(cè)銷(xiāo)售量或股票價(jià)格，為策略制定者提供可靠參考。

特點(diǎn)

• 靈活性：適用于不同類(lèi)型的預(yù)測(cè)問(wèn)題和數(shù)據(jù)類(lèi)型。
• 可解釋性：提供的預(yù)測(cè)區(qū)間有助于理解模型的不確定性。
• 無(wú)假設(shè)：不需要對(duì)數(shù)據(jù)的底層分布做假設(shè)，增強(qiáng)了泛化能力。
• 概率保證：可以量化錯(cuò)誤率，提高預(yù)測(cè)的可靠性。

共形回歸(Conformal Regression)是一種獲得預(yù)測(cè)區(qū)間的有效方法，其構(gòu)造過(guò)程可以概括為以下幾個(gè)步驟:

1. 計(jì)算誤差分布 首先計(jì)算歷史數(shù)據(jù)中每個(gè)樣本點(diǎn)的預(yù)測(cè)誤差，即預(yù)測(cè)值與真實(shí)值之間的絕對(duì)差值。然后將這些誤差值從小到大排序。
2. 確定誤差臨界值 在排序后的誤差分布中，選取一個(gè)臨界值，使得小于等于該臨界值的誤差所占比例等于期望的置信度(如95%)。該臨界值被視為可接受的最大預(yù)測(cè)誤差。
3. 構(gòu)建預(yù)測(cè)區(qū)間 對(duì)于新的預(yù)測(cè)樣本點(diǎn)，其預(yù)測(cè)區(qū)間被設(shè)定為[預(yù)測(cè)值-誤差臨界值， 預(yù)測(cè)值+誤差臨界值]。根據(jù)誤差臨界值的選取，該預(yù)測(cè)區(qū)間能以期望的置信度(如95%)包含真實(shí)值。

共形回歸的優(yōu)勢(shì)在于，它是一種與具體模型無(wú)關(guān)的元算法，可以應(yīng)用于任何機(jī)器學(xué)習(xí)回歸模型的結(jié)果之上，從點(diǎn)估計(jì)擴(kuò)展到概率預(yù)測(cè)區(qū)間。其關(guān)鍵是利用歷史誤差分布來(lái)量化新預(yù)測(cè)的不確定性，為決策過(guò)程提供了更多不確定性信息。

需要指出的是，共形回歸所構(gòu)建的預(yù)測(cè)區(qū)間是保守的，其寬度會(huì)隨著置信度的提高而增加。在一些對(duì)過(guò)度保守不利的應(yīng)用場(chǎng)景中，可以考慮引入其他校正方法來(lái)縮小區(qū)間寬度。另一方面，共形技術(shù)還可以推廣到分類(lèi)、異常檢測(cè)等其他機(jī)器學(xué)習(xí)任務(wù)。

共形預(yù)測(cè)的構(gòu)造

這是在尋找預(yù)測(cè)區(qū)間的程序中使用的共形預(yù)測(cè)（CP）策略。請(qǐng)注意，它對(duì)模型規(guī)格和基礎(chǔ)數(shù)據(jù)分布不做任何假設(shè)。CP 與模型無(wú)關(guān)--適用于任何建模技術(shù)。共形預(yù)測(cè)技術(shù)由 Volodya Vovk、Alexander Gammerman 和 Craig Saunders（1999 年） 以及 Harris Papadopoulos、Kostas Proedrou、Volodya Vovk 和 Alex Gammerman（2002 年）提出。共形預(yù)測(cè)算法的工作原理如下：

• 將歷史時(shí)間序列數(shù)據(jù)分為訓(xùn)練期、校準(zhǔn)期和測(cè)試期。
• 在訓(xùn)練數(shù)據(jù)上訓(xùn)練模型。
• 使用訓(xùn)練好的模型對(duì)校準(zhǔn)數(shù)據(jù)進(jìn)行預(yù)測(cè)。然后繪制預(yù)測(cè)誤差直方圖，并定義如圖 (A) 所示的容差水平。
• 將容差區(qū)間加減到任何未來(lái)點(diǎn)估算中，包括測(cè)試數(shù)據(jù)中的預(yù)測(cè)，以提供預(yù)測(cè)區(qū)間。

環(huán)境要求

在預(yù)測(cè)區(qū)間上，NeuralProphet 有三種選擇：(i) 分位數(shù)回歸 (QR)(ii) 共形預(yù)測(cè) (CP)(iii) 共形分位數(shù)回歸 (CQR)。

你將按照標(biāo)準(zhǔn)安裝程序 pip install NeuralProphet 來(lái)安裝 NeuralProphet。

!pip install neuralprophet
!pip uninstall numpy
!pip install git+https://github.com/ourownstory/neural_prophet.git numpy==1.23.5

數(shù)據(jù)

這里我們將直接加載數(shù)據(jù)。這里的數(shù)據(jù)集可以直接在公眾號(hào)：數(shù)據(jù)STUDIO 里搜索 開(kāi)源 23 個(gè)優(yōu)秀的機(jī)器學(xué)習(xí)數(shù)據(jù)集，這里有提供。

%matplotlib inline
from matplotlib import pyplot as plt
import pandas as pd
import numpy as np
import logging
import warnings
logging.getLogger('prophet').setLevel(logging.ERROR)
warnings.filterwarnings("ignore")
# 數(shù)據(jù)獲?。涸诠娞?hào)：數(shù)據(jù)STUDIO 后臺(tái)回復(fù) 云朵君
data = pd.read_csv('/bike_sharing_daily.csv')
data.tail()

自行車(chē)租賃數(shù)據(jù)

這個(gè)數(shù)據(jù)集包含多變量數(shù)據(jù)，每天的租賃需求和其他天氣信息（如溫度和風(fēng)速）。我們需要做最基本的數(shù)據(jù)準(zhǔn)備來(lái)進(jìn)行建模。NeuralProphet 要求列名為 ds 和 y。

# convert string to datetime64
data["ds"] = pd.to_datetime(data["dteday"])
df = data[['ds','cnt']]
df.columns = ['ds','y']

建模

使用一個(gè)簡(jiǎn)單的 NeuralProphet 模型，包括趨勢(shì)和季節(jié)性模式，也可以加入其他成分，如 AR、假期和其他協(xié)變量。

from neuralprophet import NeuralProphet, set_log_level
cp_model = NeuralProphet(
    yearly_seasnotallow=True,
    weekly_seasnotallow=True,
    daily_seasnotallow=False,
)
cp_model.set_plotting_backend("plotly-static")

訓(xùn)練、驗(yàn)證和測(cè)試數(shù)據(jù)

共形預(yù)測(cè)或共形分位數(shù)回歸技術(shù)的一個(gè)重要的步驟是將訓(xùn)練數(shù)據(jù)分為訓(xùn)練數(shù)據(jù)和驗(yàn)證數(shù)據(jù)，驗(yàn)證數(shù)據(jù)將用于構(gòu)建容差統(tǒng)計(jì)。

df_train, df_test = cp_model.split_df(df, valid_p=0.2)
df_train, df_cal = cp_model.split_df(df_train, freq="D", valid_p=1.0 / 11)
[df_train.shape, df_test.shape, df_cal.shape]
# [(532, 2), (146, 2), (53, 2)]

我們用三種顏色繪制數(shù)據(jù)子集。

圖片

我們使用驗(yàn)證數(shù)據(jù)作為模型驗(yàn)證集。

metrics = cp_model.fit(df_train, validation_df=df_cal, progress="bar")
metrics.tail()

圖片

然后，我們就可以進(jìn)行預(yù)測(cè)并附加預(yù)測(cè)區(qū)間了。雖然 NeuralProphet 可以自動(dòng)完成 CP，但我們還是要手動(dòng)操作，以便向您展示操作步驟。

共形預(yù)測(cè)

我們計(jì)劃創(chuàng)建一個(gè)future數(shù)據(jù)集，該數(shù)據(jù)集將在df數(shù)據(jù)的最后日期之后延續(xù) 50 個(gè)周期。該數(shù)據(jù)集將包含模型對(duì)所有歷史數(shù)據(jù)的預(yù)測(cè)，或者如果我們?cè)O(shè)定n_historic_predictinotallow=40，則將僅包括 40 個(gè)歷史數(shù)據(jù)點(diǎn)及其預(yù)測(cè)結(jié)果。

NeuralProphet 的 CP 選項(xiàng)是 method=naive。我們將通過(guò) .conformal_prediction()啟用保形預(yù)測(cè)。

future = cp_model.make_future_dataframe(df, periods=50, 
     n_historic_predictinotallow=True)

# Parameter for naive conformal prediction
method = "naive"
alpha = 0.05

# Enable conformal prediction on the pre-trained models
cp_forecast = cp_model.conformal_predict(
    # df_test, # You can also use df_test
    future,
    calibration_df=df_cal,
    alpha=alpha,
    method=method,
    show_all_PI=True,
)
cp_forecast

輸出包含預(yù)測(cè)值 yhat1 和上限 yhat1 + qhat1。qhat1 是根據(jù)校準(zhǔn)數(shù)據(jù)得出的容差范圍。

圖片

從 yhat1+qhat1中減去 yhat1即可得到 qhat1。這是一個(gè) 1951.214 的單一值。然后，我們可以通過(guò)從 yhat1減去 qhat1 得出下限。

cp_forecast['qhat1'] = cp_forecast['yhat1 + qhat1'] - cp_forecast['yhat1'] 
cp_forecast['yhat1 - qhat1'] = cp_forecast['yhat1'] - cp_forecast['qhat1']
cp_forecast

繪制預(yù)測(cè)值和預(yù)測(cè)區(qū)間圖。你會(huì)發(fā)現(xiàn)CP一直是一個(gè)固定值，在所有時(shí)段都是如此。它與預(yù)測(cè)值相加或相減得出上下限。

import matplotlib.pyplot as plt
plt.figure(figsize=(10,6))
#plot each series
plt.plot(df_train['ds'],df_train['y'], label='Training data')
plt.plot(df_cal['ds'],df_cal['y'], label='Calibration data')
plt.plot(df_test['ds'],df_test['y'], label='Test data')

plt.plot(cp_forecast['ds'],cp_forecast['yhat1'], label='Prediction')
plt.plot(cp_forecast['ds'],cp_forecast['yhat1 - qhat1'], label='Lower bound')
plt.plot(cp_forecast['ds'],cp_forecast['yhat1 + qhat1'], label='Upper bound')
plt.legend()
plt.title('Conformal prediction')
plt.xticks(rotatinotallow=45, ha='right')
# Draw a vertical dashed line
plt.axvline(x=df_test['ds'].tail(1), color='r', linestyle='--', linewidth=2) 
plt.show()

共形預(yù)測(cè)

公差區(qū)間是根據(jù)校準(zhǔn)數(shù)據(jù)中的實(shí)際值得出的。

結(jié)論

本文介紹了共形預(yù)測(cè)技術(shù)，提供預(yù)測(cè)區(qū)間。共形預(yù)測(cè)的構(gòu)造不依賴于任何模型假設(shè)，可適用于任何模型。此外，我們展示了在NeuralProphet中構(gòu)建預(yù)測(cè)區(qū)間的代碼示例。一些人可能已經(jīng)注意到，預(yù)測(cè)區(qū)間在所有時(shí)間段都是相同長(zhǎng)度的。在某些情況下，不同的預(yù)測(cè)間隔可能更有意義。