6月30日消息，2023火山引擎V-Tech體驗(yàn)創(chuàng)新峰會于28日在北京召開。會上，火山引擎發(fā)布了大模型服務(wù)平臺“火山方舟”，面向企業(yè)提供模型精調(diào)、評測、推理等全方位的平臺服務(wù)，希望打通大模型上下游鏈條，共建“多模型”行業(yè)生態(tài)，共同服務(wù)好千行百業(yè)。

火山引擎總裁譚待以《多云多模型，迎接體驗(yàn)創(chuàng)新的新時代》為主題，分享了火山引擎在大模型領(lǐng)域的洞察與探索。未來的大模型市場將是一個百花齊放的多模型生態(tài)，企業(yè)自身對大模型的應(yīng)用將會呈現(xiàn)“1+N”的模式。

圖片來源： 火山引擎，下同

如何做好、用好大模型？一直以來，火山引擎致力于通過云和智能技術(shù)，幫助企業(yè)實(shí)現(xiàn)更好的數(shù)字化增長?；鹕揭鎸⒃粕显鲩L的動力總結(jié)成了3個核心要素，即“體驗(yàn)創(chuàng)新”、“數(shù)據(jù)驅(qū)動”和“敏捷迭代”。

譚待認(rèn)為：“在云上增長三要素中，‘體驗(yàn)創(chuàng)新’能夠直接為企業(yè)創(chuàng)造巨大的用戶價值和商業(yè)價值?；仡櫄v史，每次技術(shù)大變革，都會帶來體驗(yàn)創(chuàng)新的巨大機(jī)會。現(xiàn)在，大模型已經(jīng)當(dāng)仁不讓地捧起了技術(shù)創(chuàng)新和體驗(yàn)創(chuàng)新的接力棒?！?/p>

大模型的語言對話能力，第一次能夠讓機(jī)器去適應(yīng)和理解人類的交互方式。大模型以seq2seq（Sequence-to-Sequence，序列到序列）的預(yù)測為基礎(chǔ)，語言、圖像、視頻、計(jì)算機(jī)操作和指令都可以序列化，這也讓大模型在各個行業(yè)落地呈現(xiàn)出成千上萬種可能性。

火山引擎總裁譚待

目前，國內(nèi)的大模型市場呈現(xiàn)出如火如荼的態(tài)勢。做好大模型，算法、數(shù)據(jù)和算力三要素缺一不可，安全與信任、性價比、生態(tài)系統(tǒng)等問題也一樣值得關(guān)注。安全與信任指的是雙向信任，大模型服務(wù)商希望模型方案和代碼不被泄露；模型的應(yīng)用企業(yè)也需要保障調(diào)用大模型時，自身Prompt或精調(diào)數(shù)據(jù)不被泄露。

性價比方面，從更長的時間維度來看，后期模型推理計(jì)算才是成本更高的環(huán)節(jié)。只有推理成本足夠低，才能讓大模型被廣泛使用。生態(tài)系統(tǒng)方面，生成式模型并不清楚自身所擅長的領(lǐng)域。因此需要被告知其自身優(yōu)劣勢，并在其不擅長的地方提供下游模型、API和插件。

此外，企業(yè)應(yīng)該如何用好大模型，設(shè)計(jì)好企業(yè)在智能時代的技術(shù)路線？譚待認(rèn)為，選擇合適的大模型、做好提示工程、對接好插件和工具鏈，是三個關(guān)鍵。

火山引擎總裁譚待

首先，在選擇合適的大模型之前，需要制定可量化的評估指標(biāo)。是關(guān)注模型的邏輯推理能力？還是文本生成能力？還是風(fēng)險(xiǎn)控制能力？有了量化的評估指標(biāo)作為依據(jù)，就可以針對不同的模型進(jìn)行全方位的能力測評，選擇性價比最合適的。

然后，需要做好提示工程（Prompt Engineering）?？梢宰孭rompt盡可能全面地包含詳細(xì)的任務(wù)內(nèi)容、相關(guān)信息和說明。也可以通過Few-Shot Prompt的方式，盡可能地給大模型一些樣本和示例。或者通過“step by step”這樣CoT的方式，進(jìn)一步加強(qiáng)模型的性能。

最后是對接好插件和工具鏈。大模型自己并不知道自己擅長什么，不擅長什么。所以需要通過工具并且?guī)椭Ｐ驮诤线m的場景下更好地使用它們，帶來更好的應(yīng)用效果。