6月28日消息，在字節(jié)跳動(dòng)旗下的云服務(wù)平臺(tái)火山引擎主辦、英偉達(dá)合作舉辦的“V-Tech體驗(yàn)創(chuàng)新科技峰會(huì)”上，火山引擎發(fā)布大模型服務(wù)平臺(tái)“火山方舟”，面向企業(yè)提供模型精調(diào)、評(píng)測、推理等全方位的平臺(tái)服務(wù)（MaaS，即Model-as-a-Service）。目前，“火山方舟”集成了百川智能、出門問問、復(fù)旦大學(xué)MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI等多家AI科技公司及科研院所的大模型，并已啟動(dòng)邀測。

圖源：火山引擎公眾號(hào)

“企業(yè)使用大模型，首先要解決安全與信任問題”，火山引擎總裁譚待表示，“火山方舟”實(shí)現(xiàn)了大模型安全互信計(jì)算，為企業(yè)客戶確保數(shù)據(jù)資產(chǎn)安全?；凇盎鹕椒街邸豹?dú)特的多模型架構(gòu)，企業(yè)可同步試用多個(gè)大模型，選用更適合自身業(yè)務(wù)需要的模型組合。

譚待認(rèn)為，企業(yè)使用大模型，最擔(dān)心的是數(shù)據(jù)泄露；如果將大模型私有化部署，企業(yè)將承擔(dān)更高的成本，模型生產(chǎn)方也會(huì)擔(dān)心知識(shí)資產(chǎn)安全?！盎鹕椒街邸钡氖滓蝿?wù)，就是做好大模型使用者、提供者和云平臺(tái)可以互相信任的安全保障。

火山引擎總裁譚待；圖源：火山引擎公眾號(hào)

據(jù)火山引擎智能算法負(fù)責(zé)人吳迪介紹，“火山方舟”已上線了基于安全沙箱的大模型安全互信計(jì)算方案，利用計(jì)算隔離、存儲(chǔ)隔離、網(wǎng)絡(luò)隔離、流量審計(jì)等方式，實(shí)現(xiàn)了模型的機(jī)密性、完整性和可用性保證，適用于對(duì)訓(xùn)練和推理延時(shí)要求較低的客戶。

吳迪表示，“火山方舟”還在探索基于NVIDIA新一代硬件支持的可信計(jì)算環(huán)境、基于聯(lián)邦學(xué)習(xí)的數(shù)據(jù)資產(chǎn)分離等多種方式的安全互信計(jì)算方案，更全面地滿足大模型在不同業(yè)務(wù)場景的數(shù)據(jù)安全要求。

中國科學(xué)技術(shù)信息研究所等機(jī)構(gòu)發(fā)布的《中國人工智能大模型地圖研究報(bào)告》顯示，截至今年5月，國內(nèi)已公開披露的大模型數(shù)量達(dá)到79個(gè)。大模型密集涌現(xiàn)，企業(yè)面臨“選擇困難”。在吳迪看來，技術(shù)發(fā)展日新月異，國內(nèi)大模型正在快速迭代，不同大模型在特定任務(wù)上各有千秋，企業(yè)不必急于綁定一家大模型，而是應(yīng)該結(jié)合自身業(yè)務(wù)場景，綜合評(píng)估使用效果和成本，在不同場景選用更具性價(jià)比的模型。

截自中信所網(wǎng)站

吳迪稱，訓(xùn)練大模型很昂貴，但是從長期來看，模型的推理開銷會(huì)超過訓(xùn)練開銷。效果和成本的矛盾永遠(yuǎn)存在，降低推理成本會(huì)是大模型應(yīng)用落地的重要因素，“一個(gè)經(jīng)過良好精調(diào)的中小規(guī)格模型，在特定工作上的表現(xiàn)可能不亞于通用的、巨大的基座模型，而推理成本可以降低到原來的十分之一?！?/p>

“火山方舟”提供了豐富的模型精調(diào)和評(píng)測支持。吳迪介紹，企業(yè)可以用統(tǒng)一的工作流對(duì)接多家大模型，對(duì)于復(fù)雜需求可設(shè)置高級(jí)參數(shù)、驗(yàn)證集、測試集等功能，再通過自動(dòng)化和人工評(píng)估直觀對(duì)比模型精調(diào)效果，在不同業(yè)務(wù)場景里還可靈活切換不同的模型，實(shí)現(xiàn)最具性價(jià)比的模型組合。這些自定義指標(biāo)和評(píng)估數(shù)據(jù)的積累，將成為企業(yè)在大模型時(shí)代寶貴的數(shù)據(jù)資產(chǎn)。

據(jù)吳迪透露，抖音集團(tuán)內(nèi)部已有十多個(gè)業(yè)務(wù)團(tuán)隊(duì)試用“火山方舟”，在代碼糾錯(cuò)等研發(fā)提效場景，文本分類、總結(jié)摘要等知識(shí)管理場景，以及數(shù)據(jù)標(biāo)注、歸因分析等方面探索，利用大模型能力促進(jìn)降本增效。這些內(nèi)部實(shí)踐在快速打磨“火山方舟”，推動(dòng)平臺(tái)能力的進(jìn)一步完善。“火山方舟”的首批邀測企業(yè)，還包括金融、汽車、消費(fèi)等眾多行業(yè)的客戶。

火山引擎智能算法負(fù)責(zé)人吳迪；圖源：火山引擎公眾號(hào)

譚待判斷，企業(yè)使用大模型，未來可能會(huì)呈現(xiàn)“1+N”的模式：“1”是通過自研或深度合作，形成1個(gè)主力模型；由于成本和場景復(fù)雜多元等原因，在這個(gè)主力模型之外，還會(huì)有N個(gè)模型同時(shí)應(yīng)用。

“每一次技術(shù)的大變革，都會(huì)帶來體驗(yàn)創(chuàng)新的新機(jī)會(huì)”，譚待坦言，“火山方舟”還在起步階段，工具鏈和下游應(yīng)用插件需要持續(xù)完善。平臺(tái)還將接入更多大模型，并逐步擴(kuò)大邀測范圍，與企業(yè)客戶共建開放合作的多模型生態(tài)，加速大模型在各行各業(yè)的應(yīng)用落地。