支付寶CTO陳亮:AI大規(guī)模落地,需要解決算力、成本和用戶體驗
2月21日消息,支付寶在今年春節(jié)推出了AI創(chuàng)新玩法。據支付寶透露,2024支付寶五福節(jié)活動期間,有近6億人次通過支付寶AI科技體驗新年味,年輕人涌入支付寶玩“飆戲小劇場”,“大家來找福”……五福熱度不減。其中,“大家來找?!背蔀樽钍軞g迎的集福卡方式,共有近30億個AI生成的福字被用戶找到?!稛崂睗L燙》換臉片段上線五?!帮j戲小劇場”后,一天吸引近百萬網友AI“參演””。
“今年的五福節(jié),是支付寶首次由AI全面驅動的五?;顒樱苿覣I在支付寶上規(guī)?;涞貞玫耐瑫r,也推動了支付寶的第二次技術迭代?!敝Ц秾毞矫姹硎?。
圖源:支付寶APP
近日,新浪科技《科創(chuàng)100人》與支付寶CTO陳亮(花名俊義)進行一場深入訪談,探討支付寶技術迭代方法論等。據介紹,從技術角度,支付寶成立迄今,主要經歷了兩輪技術迭代。其中,第一次技術迭代是由雙11倒逼發(fā)生的,主要是解決海量高并發(fā)數據場景下的安全順滑問題,過程中逼出了以OceanBase和綠色計算為代表的分布式技術和架構。第二輪技術變革,則是支付寶加速布局AI應用,推動解決AI應用大規(guī)模落地過程中產生的算力、成本可控等問題,目的在于為用戶和商家打造一個全面AI化的“新支付寶”。
而此時此刻,“支付寶正經歷第二輪技術迭代”。在俊義看來,今年的五福節(jié),便是一屆由AI全面驅動的五福節(jié),“整個AI在支付寶上已融入了日常生活中,不僅僅是對用戶,對我們日常工作都有非常大的影響和驅動。”
在前后兩輪技術迭代過程中,支付寶所采用的是一種“開飛機換引擎”的方式。此前的技術并沒有瞬間被拋棄,而是會沿用到當下的場景中,與新的AI技術進行融合,然后在不斷地實踐和場景打磨中,不斷融合淬煉,迭代進步。
圖源:支付寶官微
以本屆AI驅動的五福為例,據俊義介紹,在有了第一輪技術迭代中產生的分布式技術支撐后,“當開獎時候數億人涌入支付寶時,也不再擔心宕機的風險。與此同時,此時忽然出現(xiàn)的大量用戶密集體驗AI創(chuàng)新玩法,也能夠得到很好地支撐”。
“9年前第一次集五福遇到最大的挑戰(zhàn)是這么多人一起開獎,這在中國歷史上是沒有過的,技術上想了非常多的辦法,改造了非常多?!笨×x表示,支付寶五福期間同時在線用戶有幾億,這是一般沒遇到過的,“所以這幾年五福很好地繼承了支付寶分布式的技術”。
“螞蟻集團自主研發(fā)的硬核科技,如分布式數據庫、云原生分布式計算架構、智能風控等,一直引領行業(yè)的技術方向,也都是被國民級項目倒逼出來??梢哉f,支付寶的技術淬煉,是在一個又一個‘大型戰(zhàn)場’上磨煉升級突破的?!笨×x表示。
圖源:支付寶官博
俊義透露,他作為在支付寶工作了17年的老員工,從第一屆雙11開始,已完整經歷雙11十余年的支付壓測與技術保障,他身上的一個大標簽就是“雙11技術總指揮”。也主導了支付寶小程序云的技術和產品上線。在用AI改造支付寶業(yè)務這條路徑上,俊義也是技術的總指揮。
在他看來,由AI驅動的五福,不管面向To C也好,還是To企業(yè)級用戶和內部員工,本質都是解決大規(guī)模落地的問題。而在AI大規(guī)模落地應用過程中,目前需要解決以下兩個關鍵問題:第一,算力支撐得住、成本可控;第二,用戶體驗好。
據他介紹,在保證算力支撐得住上,目前螞蟻基礎大模型平臺已具備萬卡異構集群,其中千卡規(guī)模訓練MFU可達40%,集群有效訓練時長占比達90%以上。此外,數據層面,除了全網通用語料與金融領域的優(yōu)質語料,螞蟻還注入了優(yōu)質的研判分析數據,以及大規(guī)模知識工程所帶來的超過270億Token的知識量;模型層面,螞蟻也從真實場景萃取了超60萬條以上的專屬指令。
圖源:支付寶官網
為控制成本,螞蟻集團在軟件解決GPU焦慮上做了很多探索實踐。目前,螞蟻的CPU利用率從2017年的不到10%,提升到了2022年的33%。此外,螞蟻萬卡異構集群的硬件算力效率(HFU)也超過了60%,集群有效訓練時長占比90%以上,RLHF訓練在同等模型效果下吞吐性能較業(yè)界方案提升3.59倍。與此同時,目前約50%的螞蟻程序員,也在寫代碼時通過自研的CodeFuse提升代碼開發(fā)效率,AI生成代碼占比超過10%。
據了解,目前,支付寶已實踐出了一套完整的AI Copilot的解決方案。這些被倒逼出來的技術突破,在扛住國民級項目后,開始運用到支付寶日常的技術支持,再又通過開源和對外商業(yè)化,服務外部合作伙伴和更多普通人。
“AI應用能否大規(guī)模落地,關系到AI是否能夠真正服務社會并走向真正的AGIC時代,支付寶在解決這個行業(yè)難題,并提出了一些解決方案。未來百靈大模型將會被用于全面改造支付寶的應用場景,期待一個全新的支付寶?!笨×x表示。
2、電商號平臺僅提供信息存儲服務,如發(fā)現(xiàn)文章、圖片等侵權行為,侵權責任由作者本人承擔。
3、如對本稿件有異議或投訴,請聯(lián)系:info@dsb.cn