7月12日消息，近日，阿里達(dá)摩院提出了一種長時(shí)序預(yù)測的新模型FEDformer，精準(zhǔn)度比業(yè)界最優(yōu)方法提升14.8%以上，模型已應(yīng)用于電網(wǎng)負(fù)荷預(yù)測。相關(guān)論文已被機(jī)器學(xué)習(xí)頂會(huì)ICML2022收錄。

據(jù)了解，ICML是機(jī)器學(xué)習(xí)領(lǐng)域的頂級(jí)學(xué)術(shù)會(huì)議，達(dá)摩院決策智能實(shí)驗(yàn)室的論文《FEDformer: Frequency Enhanced Decomposed Transformer for Long-term Series Forecasting》關(guān)注了機(jī)器學(xué)習(xí)領(lǐng)域的經(jīng)典問題：時(shí)序預(yù)測（Time Series Forecasting）。

時(shí)間序列預(yù)測，意思是指利用歷史數(shù)據(jù)預(yù)測未來信息。預(yù)測可分為短期、中期和長期預(yù)測，需要預(yù)測的時(shí)間窗口越長，預(yù)測難度就越大。這項(xiàng)技術(shù)在氣象、電力、零售、交通等諸多行業(yè)有廣泛應(yīng)用。

傳統(tǒng)的時(shí)序預(yù)測模型一般采用LSTM、CNN等方法，精準(zhǔn)度和使用場景都較為有限，無力處理大規(guī)模數(shù)據(jù)。

近年來，研究人員開始將transformer模型引入長時(shí)序預(yù)測，但效果仍不夠理想，該模型核心中的注意力機(jī)制模塊對(duì)時(shí)序數(shù)據(jù)不夠敏感。

此次阿里達(dá)摩院提出的新模型FEDformer融合了transformer和經(jīng)典信號(hào)處理方法。例如，利用傅立葉/小波變換將時(shí)域信息拆解為頻域信息，讓transformer更好地學(xué)習(xí)長時(shí)序中的依賴關(guān)系；FEDformer也能排除干擾，具有更好的魯棒性。

（圖源阿里云微信公眾號(hào) 達(dá)摩院FEDformer模型架構(gòu)）

新模型還專門設(shè)計(jì)周期趨勢項(xiàng)分解模塊，通過多次分解以降低輸入輸出的波動(dòng)，進(jìn)一步提升預(yù)測精度。

實(shí)驗(yàn)證明，達(dá)摩院新模型在電力、交通、氣象等6個(gè)標(biāo)準(zhǔn)數(shù)據(jù)集上均取得最佳紀(jì)錄，預(yù)測精準(zhǔn)度較此前業(yè)界最佳模型分別提升14.8%（多變量）和22.6%（單變量）。

目前該模型已走出實(shí)驗(yàn)室，在區(qū)域電網(wǎng)完成概念驗(yàn)證，明顯提升電網(wǎng)負(fù)荷預(yù)測準(zhǔn)確率。

如今，基于自研的時(shí)序預(yù)測、優(yōu)化求解器MindOpt、安全強(qiáng)化學(xué)習(xí)等底層技術(shù)，達(dá)摩院打造的綠色能源AI，已逐步落地全國多家電網(wǎng)和發(fā)電企業(yè)，促進(jìn)綠色能源消納和電網(wǎng)安全運(yùn)行。

（圖源阿里云微信公眾號(hào) 達(dá)摩院FEDformer模型在6個(gè)數(shù)據(jù)集均取得最佳紀(jì)錄）

值得一提的是，天眼查資料顯示，阿里巴巴達(dá)摩院（杭州）科技有限公司7月1日公開一項(xiàng)“機(jī)器客服訓(xùn)練系統(tǒng)及其方法、語音回復(fù)方法和電子設(shè)備”專利，申請(qǐng)公布號(hào)為CN114692891A，申請(qǐng)日期為2022年1月29日。

該專利摘要顯示，本申請(qǐng)?zhí)峁┮环N機(jī)器客服訓(xùn)練系統(tǒng)及其方法、語音回復(fù)方法和電子設(shè)備。該機(jī)器客服訓(xùn)練系統(tǒng)包括：機(jī)器客服模型、用戶模型、回報(bào)參數(shù)配置組件和終止組件。