2024 年過半，AI 大模型在各行業(yè)的落地實(shí)踐走到哪了？
轉(zhuǎn)眼之間，2024 年已經(jīng)過半，AI 大模型的熱度從去年的技術(shù)探索轉(zhuǎn)向落地實(shí)踐，肉眼可見的是，各行各業(yè)都紛紛在這場(chǎng)熱潮中尋找新的業(yè)務(wù)創(chuàng)新點(diǎn)和行業(yè)增長(zhǎng)點(diǎn)。
“大模型的出現(xiàn)帶來了變革，它實(shí)現(xiàn)了知識(shí)平權(quán)，為我們提供了技術(shù)條件，使得我們能夠參與到 AI 的應(yīng)用中來。”寧德核電人工智能實(shí)驗(yàn)室負(fù)責(zé)人王澍在 InfoQ 17 周年慶直播中表示，核電由于行業(yè)特殊性，從業(yè)人員自身的技術(shù)意識(shí)和能力有限，加上傳統(tǒng) AI 依賴于規(guī)則驅(qū)動(dòng)，知識(shí)門檻高，使得過去核電領(lǐng)域?qū)?AI 的應(yīng)用并不廣泛。而大模型的出現(xiàn)，讓過去看似不可能的事情變?yōu)榱丝赡堋?/p>
此外，即便是在物流、金融等這些已經(jīng)較為普遍應(yīng)用了 AI 技術(shù)等行業(yè)，大模型也帶來了新的突破。順豐科技運(yùn)籌優(yōu)化算法專家王一帆指出，在復(fù)雜的供應(yīng)鏈領(lǐng)域，傳統(tǒng)技術(shù)面臨兩大挑戰(zhàn)，一是求解性能，二是使用門檻。對(duì)此，大模型解決了很多以前難以解決的瓶頸問題，使得業(yè)務(wù)效率大大提升。
螞蟻集團(tuán)投研支小助技術(shù)負(fù)責(zé)人紀(jì)韓以知識(shí)圖譜技術(shù)的演進(jìn)為例，介紹了大模型在金融領(lǐng)域的應(yīng)用價(jià)值。他表示，隨著市場(chǎng)的變化，管理知識(shí)圖譜的成本越來越高，而且事件與金融資產(chǎn)波動(dòng)的邏輯也在內(nèi)生變化，這使得模型和知識(shí)圖譜難以跟上變化節(jié)奏。對(duì)此，大模型提供了另一種可能性，由于具備閱讀大量報(bào)告的能力，它能夠發(fā)現(xiàn)報(bào)告中金融邏輯的共性，使得機(jī)器進(jìn)行復(fù)雜分析變得更加可行。
然而，在面對(duì)不同行業(yè)時(shí)，大模型的落地過程仍然充滿挑戰(zhàn)。比如，成本投入是否合理、可能帶來哪些新的風(fēng)險(xiǎn)、如何克服內(nèi)外部的各種阻力等等。在直播對(duì)話中，三位老師展開了深入的探討和分享。
以下內(nèi)容根據(jù)對(duì)話整理，篇幅有刪減：
InfoQ：幾個(gè)月前，寧德核電推出了自主訓(xùn)練的核工業(yè)大模型，王老師可以介紹一下幾個(gè)月來的應(yīng)用進(jìn)展嗎？
王澍：自從我們幾個(gè)月前發(fā)布了大模型，它已經(jīng)展現(xiàn)出了多方面的發(fā)展?jié)摿?。作為我們的知識(shí)管理平臺(tái)，大模型在持續(xù)迭代中顯著提升了其泛化能力，效果顯著。此外，基于大模型開發(fā)的首款應(yīng)用“AI 講師”已經(jīng)在一些試點(diǎn)課程中推廣使用。
在生產(chǎn)領(lǐng)域，我們?cè)O(shè)備管理等方面也推出了一些試點(diǎn)產(chǎn)品。同時(shí)，我們?cè)?AI 人才培養(yǎng)方面也取得了進(jìn)展，不僅培養(yǎng)了復(fù)合型人才，還大膽推進(jìn)了種子教育計(jì)劃。核電領(lǐng)域由于計(jì)算機(jī)背景相對(duì)薄弱，我們需要培養(yǎng)既能使用大模型又能訓(xùn)練大模型的人才。這一過程不能完全依賴第三方，必須培養(yǎng)自己的教員，以便為不同層次的一線員工提供相應(yīng)的培訓(xùn)。換句話說，全員都需要掌握不同程度的技能，以適應(yīng)我們行業(yè)的特殊需求。
此外，我們的大模型本身也實(shí)現(xiàn)了擬人化，作為寧德核電人工智能實(shí)驗(yàn)室的 AI 智囊，參與了日常的頭腦風(fēng)暴、培訓(xùn)學(xué)習(xí)和科研項(xiàng)目研討等工作。
InfoQ：金融行業(yè)因?yàn)榫哂懈叨鹊膹?fù)雜性、動(dòng)態(tài)性和不確定性，一直是A及其相關(guān)技術(shù)的應(yīng)用熱點(diǎn)。請(qǐng)問紀(jì)老師，目前螞蟻集團(tuán)在大模型層面進(jìn)行了哪些探素？有哪些典型的實(shí)踐案例？
紀(jì)韓：我的工作主要集中在利用大模型及其多智能體系來解決投資研究中的問題。投資研究主要分為定量和定性兩個(gè)方向。在定量研究方面，我們已經(jīng)有多年的利用技術(shù)刻畫金融市場(chǎng)的經(jīng)驗(yàn)，并且量化金融領(lǐng)域已經(jīng)形成了成熟的處理方式。引入大模型后，我們采用了一種更為成熟的技術(shù)，即利用大模型生成代碼，這使得那些不擅長(zhǎng)編程的分析師也能通過大模型進(jìn)行初級(jí)的定量分析。
在定性研究方面，金融分析師需要進(jìn)行大量的案頭工作，如閱讀新聞資料、研報(bào)、財(cái)報(bào)和上市公司公告等。大模型在這方面表現(xiàn)出了其優(yōu)勢(shì)，擅長(zhǎng)處理文字材料?；诖?，我們開發(fā)了一個(gè)名為“投研支小助”的智能助手工具，旨在輔助分析師的日常工作。目前，螞蟻集團(tuán)及其緊密合作伙伴已經(jīng)開始內(nèi)測(cè)這一工具，用以輔助理財(cái)師和分析師，幫助他們解決過去機(jī)器難以解決的問題。
InfoQ：大模型產(chǎn)出的內(nèi)容，目前在咱們內(nèi)部的應(yīng)用率和采納率如何，準(zhǔn)確性大概處于什么水平呢？
紀(jì)韓：可以肯定的是，大模型技術(shù)的應(yīng)用在兩個(gè)主要方面取得了顯著成效。
首先，對(duì)于理財(cái)師而言，過去他們能夠服務(wù)的客戶數(shù)量是有限的，因?yàn)樗麄冃枰獮槊课豢蛻魷?zhǔn)備個(gè)性化的服務(wù)材料，包括投資分析報(bào)告和持倉分析等。但通過機(jī)器輔助，理財(cái)師的服務(wù)半徑得以顯著擴(kuò)大，可以覆蓋更多的客戶，實(shí)現(xiàn)了服務(wù)能力數(shù)量級(jí)的提升。
其次，以支付寶的理財(cái)服務(wù)為例，過去在沒有大模型技術(shù)支持的情況下，我們每天只能挑選有限的重點(diǎn)事件、新聞或政策進(jìn)行解讀，數(shù)量通常在 30-50 篇之間，甚至更多時(shí)候只有個(gè)位數(shù)。深入應(yīng)用大模型技術(shù)后，我們可以對(duì)細(xì)分行業(yè)領(lǐng)域進(jìn)行更細(xì)致的分析和解讀，覆蓋全市場(chǎng)的行業(yè)，數(shù)量可以達(dá)到 100-200 以上。目前，我們每天都由機(jī)器先生產(chǎn)一大批相關(guān)的分析和解讀，然后由人工專家進(jìn)行審核和改寫。這使得分析報(bào)告從過去的幾十篇甚至個(gè)位數(shù)，提升到了上百篇，實(shí)現(xiàn)了數(shù)量級(jí)的增長(zhǎng)。
InfoQ：請(qǐng)問一帆老師，多年來，順豐一直在基于智能算法優(yōu)化物流供應(yīng)鏈，那么結(jié)合大模型我們最近有哪些新的應(yīng)用或?qū)嵺`嗎？
王一帆：順豐作為物流行業(yè)的重要企業(yè)，一直致力于解決物流和供應(yīng)鏈中的優(yōu)化問題，包括庫存優(yōu)化、銷量預(yù)測(cè)、物流配送和路徑規(guī)劃等全鏈路供應(yīng)鏈場(chǎng)景。我們不僅采用了傳統(tǒng)的運(yùn)籌學(xué)方法，也積極運(yùn)用人工智能技術(shù)。隨著大模型技術(shù)的興起，順豐投入了大量資源進(jìn)行研發(fā)，利用我們?cè)诠?yīng)鏈領(lǐng)域的豐富項(xiàng)目經(jīng)驗(yàn)和行業(yè)積累，發(fā)揮了天然優(yōu)勢(shì)。目前，順豐在兩個(gè)主要領(lǐng)域進(jìn)行了深入研究。
供應(yīng)鏈分析領(lǐng)域：傳統(tǒng)的對(duì)話式機(jī)器人需要用戶提出非常具體的問題才能給出準(zhǔn)確的回答。借助大模型技術(shù)，用戶可以用更寬泛的問題提問，大模型能夠?qū)@些問題進(jìn)行細(xì)致篩選，提取出精準(zhǔn)信息，再傳遞給傳統(tǒng)的 AI 問答工具。這樣，工具可以針對(duì)解析出的信息進(jìn)行深入分析，提供全局性的供應(yīng)鏈分析建議或咨詢方案。
供應(yīng)鏈決策領(lǐng)域：在裝箱問題、庫存優(yōu)化和路徑規(guī)劃等方面，傳統(tǒng)技術(shù)可能會(huì)遇到性能或定制化的問題。大語言模型最初用于解決詞匯層面的對(duì)話生成，例如提供句子的后續(xù)詞匯提示。盡管這看似與路徑規(guī)劃無關(guān)，但實(shí)際上，路徑規(guī)劃中的訪問次序優(yōu)化與詞匯生成的順序邏輯在數(shù)理上具有相關(guān)性。順豐借鑒了這方面的知識(shí)，將其應(yīng)用于路徑規(guī)劃，取得了良好效果。
InfoQ：在與眾多企業(yè)的交流中，我們發(fā)現(xiàn)雖然生成式 AI 或大模型技術(shù)被認(rèn)為具有巨大的想象力和潛力，但企業(yè)在實(shí)際投入時(shí)往往持謹(jǐn)慎態(tài)度，會(huì)深思熟慮技術(shù)實(shí)力和成本問題。因此，大家普遍希望對(duì)比了解，在傳統(tǒng) AI 技術(shù)的基礎(chǔ)上，大模型或生成式 AI 技術(shù)能夠解決哪些傳統(tǒng)技術(shù)無法解決的問題，或者在哪些方面能夠帶來更好的效果？
王澍：在大模型技術(shù)興起之前，我們核電領(lǐng)域?qū)?AI 的應(yīng)用并不廣泛，主要集中在一些特定領(lǐng)域的探索，如 AR 眼鏡和機(jī)器狗等。這其中主要有兩個(gè)原因：首先是能力層面或意識(shí)層面的問題。由于 AI 本身具有較高的知識(shí)門檻，而核電人員往往缺乏計(jì)算機(jī)背景，因此很難具備應(yīng)用 AI 的意識(shí)和能力。大模型的出現(xiàn)帶來了變革，它實(shí)現(xiàn)了知識(shí)平權(quán)，為我們提供了技術(shù)條件，使得我們能夠參與到 AI 的應(yīng)用中來。
第二個(gè)方面是業(yè)務(wù)層面的差異。傳統(tǒng) AI 更多依賴于規(guī)則驅(qū)動(dòng)，但核電領(lǐng)域的復(fù)雜性使得我們這些 IT 領(lǐng)域的門外漢難以輕松找到并應(yīng)用這些規(guī)則。大模型的端到端目標(biāo)驅(qū)動(dòng)方式和自然語言交流機(jī)制，使得我們即使沒有深厚的 IT 背景，也能夠?qū)⒖此撇豢赡艿氖虑樽優(yōu)榭赡堋?/p>
王一帆：在使用大模型技術(shù)之前，我們?cè)谛袠I(yè)內(nèi)遇到了一些難以解決的瓶頸問題。這些問題通常涉及復(fù)雜的供應(yīng)鏈領(lǐng)域，我們面臨的第一個(gè)挑戰(zhàn)是求解性能。舉個(gè)例子，對(duì)于某類型的優(yōu)化問題，傳統(tǒng)技術(shù)能夠在一天內(nèi)求解 100 個(gè)案例，并且每個(gè)案例的得分都能達(dá)到 90 分以上，但如果沒有硬件或軟件的提升，就很難突破現(xiàn)有瓶頸，高效率的求解更多案例。大模型技術(shù)的出現(xiàn)改變了這一局面?，F(xiàn)在我們可以在一天內(nèi)解決一千一萬甚至更多案例。雖然目前大模型可能還無法完全達(dá)到傳統(tǒng)方法 90 分以上的平均水平，但其潛力巨大。
另一方面，使用門檻也有所降低。以往，解決這些問題需要算法人員或技術(shù)專家設(shè)計(jì)特定方法。有了成熟的大模型平臺(tái)后，只需按照規(guī)定格式進(jìn)行數(shù)據(jù)標(biāo)注和投喂，大模型就能根據(jù)現(xiàn)有數(shù)據(jù)不斷訓(xùn)練和迭代，成為一個(gè)高度智能的工具。面對(duì)新的應(yīng)用場(chǎng)景，大模型能夠快速得出良好結(jié)果，而使用這種技術(shù)不再依賴于專業(yè)的算法能力，只需在數(shù)據(jù)層面和操作層面進(jìn)行一些培訓(xùn)即可，這大大降低了使用門檻。
紀(jì)韓：在金融領(lǐng)域，主觀研究一直帶有一種神秘性，業(yè)界一直在嘗試用機(jī)器來解決主觀決策的問題。例如，早期的 Alphasense 公司就利用自然語言處理技術(shù)來理解新聞，并從中提取與金融領(lǐng)域相關(guān)的事件和觀點(diǎn)。還有一家在金融界廣為人知的公司 Kensho，它利用知識(shí)圖譜技術(shù)，將資產(chǎn)的漲跌和行業(yè)事件聯(lián)系起來，實(shí)現(xiàn)金融推理。這些公司在大約 10 年前取得了一些技術(shù)成果。
隨著市場(chǎng)的變化，管理知識(shí)圖譜的成本越來越高，而且事件與金融資產(chǎn)波動(dòng)的邏輯也在內(nèi)生變化，這些模型和知識(shí)圖譜很難跟上世界的變化。從那時(shí)起，大約從 2013 年到 2023 年，在這 10 年間，通過機(jī)器進(jìn)行決策的嘗試相對(duì)沉寂。直到大模型技術(shù)的爆發(fā)，金融界才重新發(fā)現(xiàn)了一種新的可能?，F(xiàn)在，我們可能不再需要像過去那樣，費(fèi)盡心思地從分析師的大腦中提取他們的分析方法論和模式，通過知識(shí)工程的方式將其沉淀下來。
大模型只需要大量的金融語料，比如分析師撰寫的報(bào)告，就能從中抽象出分析師自身的分析邏輯。由于大模型具備閱讀大量報(bào)告的能力，它能夠發(fā)現(xiàn)報(bào)告中金融邏輯的共性。這種能力在過去，對(duì)于整個(gè)金融界來說，幾乎是不可能通過機(jī)器實(shí)現(xiàn)的負(fù)責(zé)分析邏輯。大模型的出現(xiàn)，為金融領(lǐng)域帶來了一種全新的可能性，使得機(jī)器進(jìn)行復(fù)雜分析變得更加可行。
InfoQ：王澍老師之前提到，寧德核電在 AI 應(yīng)用方面起步較晚，因此用戶可能認(rèn)為核電是一個(gè)相對(duì)傳統(tǒng)、復(fù)雜且保守的領(lǐng)域。對(duì)于引入大模型可能帶來的風(fēng)險(xiǎn)，那最初是如何考慮的，以及的初衷是什么？
王澍：核電行業(yè)的保守程度可能遠(yuǎn)超外界的想象。在我們這個(gè)行業(yè)，有一條基本原則——任何未經(jīng)證明安全的行為，我們都視為不安全。安全是我們核電人的底線。換句話說，如果一項(xiàng)技術(shù)存在風(fēng)險(xiǎn)，我們絕不會(huì)在核電行業(yè)中引入它，我們只使用那些經(jīng)過驗(yàn)證的保守和成熟技術(shù)。
然而，我們?cè)诂F(xiàn)實(shí)中考慮引入看似不太成熟的大模型，這可能聽起來有些矛盾。實(shí)際上，這背后有兩個(gè)方面的考慮。首先，我們需要判斷大模型技術(shù)是否值得投入，是否應(yīng)該采用。經(jīng)過大半年的可行性驗(yàn)證，我們看到了它的價(jià)值，認(rèn)為這是值得做的事情。一旦確定這一點(diǎn)，我們就會(huì)進(jìn)一步評(píng)估它可能帶來的風(fēng)險(xiǎn)。核電行業(yè)并非所有崗位和領(lǐng)域都涉及安全風(fēng)險(xiǎn)。因此，我們選擇了一些業(yè)務(wù)價(jià)值大且不涉及安全風(fēng)險(xiǎn)的領(lǐng)域來引入大模型。例如，我們特別重視人才培養(yǎng)和第一個(gè)大模型平臺(tái)的開發(fā)，這些都是圍繞知識(shí)管理和人才發(fā)展進(jìn)行的。既然我們已經(jīng)判斷這項(xiàng)技術(shù)必須采用，那么接下來的問題就是如何更好地實(shí)施它。我們的目標(biāo)是找到既能發(fā)揮大模型技術(shù)優(yōu)勢(shì)，又能確保安全和風(fēng)險(xiǎn)可控的方法。
面對(duì)一項(xiàng)新技術(shù)，尤其是像大模型這樣不太成熟的技術(shù)，核電行業(yè)所面臨的挑戰(zhàn)是全方位的，每一個(gè)挑戰(zhàn)都可能非常嚴(yán)峻。我經(jīng)常感到窒息的一個(gè)問題是，核電領(lǐng)域?qū)?AI，包括大模型的認(rèn)知基礎(chǔ)非常薄弱。我去年 5 月開始探討這個(gè)話題時(shí)，行業(yè)內(nèi)幾乎沒人明白我在說什么。
在這個(gè)極其保守的行業(yè)中，對(duì)新生事物往往存在偏見，甚至敵意。在這樣的環(huán)境下，如何推廣大模型技術(shù)，并最終取得階段性成果，是一個(gè)復(fù)雜的過程。我認(rèn)為這個(gè)過程可以分為幾個(gè)關(guān)鍵步驟。
第一，說服領(lǐng)導(dǎo)：我從去年 7 月開始，自己投入了大約 10 萬元，購買電腦，自學(xué)如何部署開源大模型，并訓(xùn)練了一個(gè)效果出乎意料的大模型。這最終打動(dòng)了領(lǐng)導(dǎo)，使他們認(rèn)識(shí)到這項(xiàng)技術(shù)確實(shí)比人類更有優(yōu)勢(shì)。
第二， 說服一線員工：在說服了領(lǐng)導(dǎo)之后，接下來需要在整個(gè)一線環(huán)境中說服大家接受這個(gè)新事物。我們?nèi)ツ晖茝V了一個(gè)名為“全民大模型”的計(jì)劃，讓所有人都能通過大模型解決工作中的效率問題和難點(diǎn)問題。
第三，持續(xù)教育和培訓(xùn)：我們持續(xù)對(duì)管理層和一線員工進(jìn)行大模型的科普宣講和培訓(xùn)，不斷向他們灌輸一個(gè)概念：如果不學(xué)習(xí) AI，未來就可能被 AI 淘汰。大模型已經(jīng)非常強(qiáng)大，幾乎能做你們能做的所有事情。
第四，培養(yǎng)種子教員：由于我們的基礎(chǔ)特別差，覆蓋面廣，但對(duì)人才培養(yǎng)非常重視，我們必須培養(yǎng)能夠講授 AI 和大模型知識(shí)的教員。這樣既能降低成本，也能讓企業(yè)相信我們真的能夠持續(xù)推進(jìn)這項(xiàng)技術(shù)。
目前，從組織的最高層到基層員工，我們已經(jīng)形成了一種共識(shí)：大模型技術(shù)的價(jià)值是無法估量的。這種認(rèn)識(shí)貫穿了整個(gè)組織結(jié)構(gòu)，大家都認(rèn)識(shí)到這項(xiàng)技術(shù)的重要性和潛在的巨大影響。
InfoQ：螞蟻在技術(shù)與業(yè)務(wù)結(jié)合的探索層面一直走在行業(yè)前列，作為先行者可能沒有太多現(xiàn)成經(jīng)驗(yàn)可參考，那么在我們進(jìn)行 Al 大模型應(yīng)用過程中遇到的最大的落地難點(diǎn)是什么？對(duì)此螞蟻采取了什么手段，又取得了什么階段性進(jìn)展？
紀(jì)韓：在螞蟻集團(tuán)，我們對(duì)于大模型技術(shù)持有非常開放和包容的態(tài)度，許多同事自發(fā)地利用業(yè)余時(shí)間進(jìn)行研究和嘗試。這種自發(fā)性的研究熱情，加上公司對(duì)新技術(shù)的鼓勵(lì)和支持，創(chuàng)造了一個(gè)積極的環(huán)境，促進(jìn)了大模型技術(shù)的應(yīng)用和發(fā)展。
在金融領(lǐng)域應(yīng)用大模型技術(shù)，我們面臨一些挑戰(zhàn)，尤其是模型的嚴(yán)謹(jǐn)性和合規(guī)性問題。金融領(lǐng)域?qū)?yán)謹(jǐn)性的要求極高，因此我們?cè)谀Ｐ偷恼{(diào)試和訓(xùn)練上投入了大量的精力，使用了精心制作的金融數(shù)據(jù)，包括正例和反例，以確保模型生成的內(nèi)容符合金融邏輯和嚴(yán)謹(jǐn)性。此外，我們還建立了智能體評(píng)審機(jī)制和“安全圍欄”，確保生成內(nèi)容的合規(guī)性、專業(yè)性，并滿足金融領(lǐng)域?qū)?shù)值型信息的精確處理需求。由于早期基礎(chǔ)大模型在數(shù)值感知和時(shí)間識(shí)別方面的能力有限，我們通過與傳統(tǒng)專家系統(tǒng)和規(guī)則系統(tǒng)的結(jié)合，確保最終生成內(nèi)容的準(zhǔn)確性。
在這個(gè)過程中，我們特別重視人才梯隊(duì)的建設(shè)。金融領(lǐng)域的專家知識(shí)積累相對(duì)欠缺，研究方法論主要通過資深分析師的口頭傳授。為了讓模型生成的效果達(dá)到預(yù)期，并評(píng)估模型是否真的解決了金融問題，我們需要真正懂金融的專業(yè)人士對(duì)模型生成的結(jié)果進(jìn)行打分、標(biāo)注和修正。
最初，讓資深分析師來參與模型標(biāo)注可能比較困難，但隨著一些對(duì)新技術(shù)更開放的研究員的參與，模型開始展現(xiàn)出效果，比如幫助生成初步的分析報(bào)告。這逐漸吸引了更多的分析師愿意參與到模型的打標(biāo)和迭代過程中。這個(gè)過程涉及到技術(shù)人員、算法人員和分析師之間的信任建立和磨合，最終形成了一個(gè)良性循環(huán)，使大家認(rèn)同大模型能夠幫助解決實(shí)際工作問題。這可能是金融機(jī)構(gòu)以及對(duì)大模型應(yīng)用有高正確性和嚴(yán)謹(jǐn)性要求的領(lǐng)域所面臨的情況。
InfoQ：不同的行業(yè)，盡管具體情況各異，但在應(yīng)用新技術(shù)和優(yōu)化流程時(shí)遇到的問題往往存在共性。下面請(qǐng)一帆老師分享順豐在供應(yīng)鏈優(yōu)化方面的經(jīng)驗(yàn)和見解。
王一帆：在面對(duì)新技術(shù)的應(yīng)用和推廣時(shí)，不同行業(yè)雖有差異，但遇到的問題存在共性。我們的任務(wù)是說服相關(guān)人員采納這些技術(shù)，并幫助他們有效使用。在供應(yīng)鏈領(lǐng)域，我們已經(jīng)積累了豐富的經(jīng)驗(yàn)，這些經(jīng)驗(yàn)可能源自傳統(tǒng)行業(yè)和傳統(tǒng)技術(shù)。我們面臨的挑戰(zhàn)并不全是 AI 大模型技術(shù)出現(xiàn)后才遇到的，但新技術(shù)的出現(xiàn)無疑帶來了新的挑戰(zhàn)。
首先，AI 是一個(gè)快速發(fā)展的新興領(lǐng)域，技術(shù)更新迭代迅速，并依賴于多樣化的應(yīng)用場(chǎng)景。我們需要不斷跟蹤新技術(shù)，對(duì)它們進(jìn)行驗(yàn)證，并針對(duì)具體問題開發(fā)解決方案。這是一個(gè)不斷螺旋上升、積累有價(jià)值技術(shù)方案的過程。
其次，需求的差異性也是一個(gè)挑戰(zhàn)。供應(yīng)鏈領(lǐng)域的客戶對(duì)服務(wù)的細(xì)節(jié)要求各不相同，如時(shí)效性或成本。將這些差異化的需求轉(zhuǎn)化為大模型可以識(shí)別和響應(yīng)的特征，需要大量的迭代和調(diào)整。
再者，實(shí)現(xiàn)這些目標(biāo)需要一個(gè)堅(jiān)實(shí)的數(shù)據(jù)基礎(chǔ)。沒有歷史數(shù)據(jù)的支持，我們不能期望大模型一步到位地達(dá)到理想效果。必須基于以往的決策和業(yè)務(wù)實(shí)踐，分析其優(yōu)缺點(diǎn)，并通過數(shù)據(jù)標(biāo)注等工作，為大模型提供必要的訓(xùn)練數(shù)據(jù)。
其四，大模型本身的決策精度問題。大模型追求泛化效果，能夠應(yīng)對(duì)多種場(chǎng)景，但要針對(duì)特定客戶或項(xiàng)目達(dá)到預(yù)期效果，則需要在泛化的基礎(chǔ)上進(jìn)行更多定制化的調(diào)試和優(yōu)化。
其五，和之前提到的老師一樣，我們也遇到了需要自己投入資源以先期證明技術(shù)能力的情況。大模型開發(fā)涉及到軟硬件以及人力資源的大量投入，需要充分的支持才能取得效果。
InfoQ：對(duì)于企業(yè)而言，大模型未必越大越好，大家認(rèn)為未來傳統(tǒng) Al 技術(shù)和大模型如何有機(jī)地協(xié)同配合？
紀(jì)韓：在實(shí)際應(yīng)用大模型技術(shù)時(shí)，成本是一個(gè)重要的考量因素。我們經(jīng)常需要研究什么樣的模型規(guī)模和參數(shù)量適合解決特定復(fù)雜度的問題。在早期研究階段，我們傾向于使用較大的模型以期達(dá)到接近人類專家的金融研究水平，以獲得高質(zhì)量的分析結(jié)果。在真正投入生產(chǎn)時(shí)，我們必須考慮是否需要對(duì)金融市場(chǎng)上每天發(fā)生的幾千個(gè)事件，很多事件可能并沒有太大價(jià)值。例如，在財(cái)報(bào)季，上市公司集中公布財(cái)報(bào)和舉行電話會(huì)議，A 股市場(chǎng)每天可能有五六百家公司發(fā)布財(cái)報(bào)，每份報(bào)告可能數(shù)十萬字，用大參數(shù)量的模型處理這些報(bào)告將消耗巨大的資源。
我們需要識(shí)別哪些信息真正適合用大模型處理，以及哪些信息對(duì)業(yè)務(wù)有重大的增量?jī)r(jià)值。在金融行業(yè)研究中，我們可能更關(guān)注對(duì)市場(chǎng)影響大的龍頭企業(yè)，而對(duì)于基本面變化對(duì)行業(yè)影響微弱的長(zhǎng)尾公司，則不必使用過于強(qiáng)大的模型處理。
我們采用了多智能體技術(shù)來模擬金融專家的分析任務(wù)，通過不同的任務(wù)節(jié)點(diǎn)分工合作，如問題拆解、定量分析、定性分析和信息匯總等。這個(gè)過程被抽象成一個(gè)多智能體協(xié)作的 PEER 范式，即 Planning（規(guī)劃）、Executing（執(zhí)行）、Expressing（表達(dá)）、Reviewing（評(píng)審），模仿專家分解任務(wù)、執(zhí)行任務(wù)、撰寫報(bào)告和通過同行評(píng)審迭代分析結(jié)果的過程。在這個(gè)過程中，不同任務(wù)節(jié)點(diǎn)的難度不同，所需的模型規(guī)模也不同。
例如，規(guī)劃任務(wù)可能不需要很大的模型，而撰寫任務(wù)則可能需要更大參數(shù)量的模型，如 72B 或 110B 以上，以便處理大量信息語料。我們認(rèn)為，能夠根據(jù)不同任務(wù)選擇適配的模型，并建立相應(yīng)的基礎(chǔ)設(shè)施，是未來在工業(yè)實(shí)踐中有效利用大模型的關(guān)鍵。這樣不僅可以確保任務(wù)的復(fù)雜度與成本開銷之間達(dá)到合理匹配，還能提高大模型技術(shù)在實(shí)際應(yīng)用中的效率和效果。
王一帆：大模型以其出色的泛化能力受到認(rèn)可，但這并不意味著模型越大越好。雖然大型模型能夠提供更強(qiáng)的推理能力和更精準(zhǔn)地理解用戶意圖，但它們?cè)谔囟I(lǐng)域的專業(yè)性上可能不夠深入。例如，當(dāng)面對(duì)領(lǐng)域?qū)＜姨岢龅膶I(yè)問題時(shí)，大模型可能給出的回答不夠精確，表現(xiàn)出“什么都知道一點(diǎn)，但什么都不精”的特點(diǎn)。針對(duì)這一問題，我們研究并采用了一種結(jié)合“大模型”和“小模型”的解決思路。“小模型”，也就是傳統(tǒng) AI 中的分析工具，擅長(zhǎng)在特定類型的問題上給出精確答案，但它們可能無法回答所有問題。結(jié)合這兩種模型的優(yōu)勢(shì)，我們可以在供應(yīng)鏈分析等領(lǐng)域進(jìn)行更有效的嘗試。
在使用過程中，我們首先利用大模型的泛化能力進(jìn)行初步分析，理解并分析用戶想要提出的問題類型，然后對(duì)問題進(jìn)行解析和歸類。例如，在供應(yīng)鏈分析中，可能包括根因分析、庫存仿真推演、銷量預(yù)測(cè)等具體問題。用戶可以用寬泛的方式向大模型提問，大模型將問題提煉并分發(fā)到不同的小模型中，由這些小模型提供精確的分析和回答。最終，這些精確的回答可以通過大模型以更精致、系統(tǒng)的方式呈現(xiàn)給用戶，比如通過圖形、報(bào)表或全面的解析報(bào)告。這種結(jié)合使用大模型和小模型的方法，能夠充分發(fā)揮各自的長(zhǎng)處，互補(bǔ)不足，從而提高整體效果。
王澍：大模型確實(shí)不是越大越好。在我們核電行業(yè)，大模型訓(xùn)練是我們經(jīng)過近一年訓(xùn)練所積累的技術(shù)優(yōu)勢(shì)之一。這包括數(shù)據(jù)收集、清洗，以及在大模型訓(xùn)練中的模型選擇、超參數(shù)設(shè)置等。除了傳統(tǒng) AI 技術(shù)與大模型的結(jié)合，我想進(jìn)一步探討的是傳統(tǒng) AI 技術(shù)、通用大模型、垂直大模型以及人如何協(xié)同作戰(zhàn)。關(guān)鍵在于發(fā)揮各自的優(yōu)點(diǎn)，而不是過分關(guān)注缺點(diǎn)。我們不應(yīng)該期望單一技術(shù)解決所有問題，也不應(yīng)該因?yàn)槟稠?xiàng)技術(shù)的短板而全盤否定它。
大模型的優(yōu)點(diǎn)主要有兩個(gè)：一是在準(zhǔn)確回答問題方面能夠做到極其精準(zhǔn)；二是它們提供了強(qiáng)大的泛化能力，也就是所謂的頭腦風(fēng)暴能力。人的特點(diǎn)在于，我們可以迅速判斷一個(gè)答案的正確與否，這是在四者協(xié)同工作中的一個(gè)顯著優(yōu)勢(shì)。通過這種協(xié)同，許多曾經(jīng)難以處理或無法解決的問題，現(xiàn)在至少有了新的解決思路。這種協(xié)同作戰(zhàn)不僅提高了解決問題的能力，也為我們提供了更廣闊的視野和更多的可能性。這些感受來自于我過去一年在訓(xùn)練和使用大模型過程中的親身體驗(yàn)。通過將傳統(tǒng) AI 技術(shù)、不同種類的大模型以及人的判斷力有效結(jié)合起來，我們可以更全面、更高效地應(yīng)對(duì)各種挑戰(zhàn)。
InfoQ：技術(shù)的先進(jìn)性要真正落實(shí)帶企業(yè)業(yè)務(wù)場(chǎng)景，給業(yè)務(wù)帶來收益才有價(jià)值。那么，如何將 Al 大模型技術(shù)的應(yīng)用與企業(yè)的業(yè)務(wù)需求緊密結(jié)合？阻力是什么？如何跨越？
王一帆：在大模型技術(shù)到來之前，我們面對(duì)的挑戰(zhàn)已經(jīng)存在多年，特別是如何讓業(yè)務(wù)人員理解 AI 大模型或傳統(tǒng)運(yùn)籌學(xué)算法。由于這些技術(shù)對(duì)他們來說難度相當(dāng)，我們的目標(biāo)一直是促進(jìn)技術(shù)和業(yè)務(wù)之間的互通，以便更好地推動(dòng)算法項(xiàng)目的落地，具體來說有以下幾點(diǎn)。
第一，我們需要深入理解業(yè)務(wù)場(chǎng)景，這樣才能將業(yè)務(wù)需求轉(zhuǎn)化為算法能夠理解的語言，并通過算法或大模型技術(shù)將所需結(jié)果傳遞給客戶。
第二，我們要在眾多技術(shù)方案中選擇適合特定項(xiàng)目的技術(shù)。例如，如果項(xiàng)目對(duì)時(shí)效性要求高但對(duì)求解精度要求相對(duì)較低，AI 大模型或快速啟發(fā)式方法可能是合適的選擇。相反，對(duì)于一些規(guī)劃或計(jì)劃層面的項(xiàng)目，可能更適合采用更傳統(tǒng)、更保守的方法，以確保結(jié)果的穩(wěn)定性和安全性。
第三，我們需要考慮客戶的接受程度?？蛻糁挥性诶斫饧夹g(shù)和業(yè)務(wù)的基礎(chǔ)上，才能對(duì)所采用的方法給予支持。這需要我們?cè)诳蛻舻氖褂昧?xí)慣上進(jìn)行培養(yǎng)，逐步引導(dǎo)他們適應(yīng)新技術(shù)帶來的便利性和優(yōu)勢(shì)，并通過 KPI 報(bào)表等結(jié)果導(dǎo)向的方式證明技術(shù)的有效性。此外，數(shù)據(jù)質(zhì)量的提升也是關(guān)鍵。維護(hù)高質(zhì)量的數(shù)據(jù)可以促進(jìn) AI 大模型的迭代，使其更加精準(zhǔn)。
第四，順豐作為物流行業(yè)的代表，正在積極探索各種行業(yè)場(chǎng)景中大模型和傳統(tǒng)方法的應(yīng)用，并針對(duì)這些場(chǎng)景進(jìn)行深入探索和擴(kuò)展。這是一個(gè)長(zhǎng)期的過程，我們將持續(xù)投入。
王澍：企業(yè)普遍面臨的共性問題之一是辦公效能的提升。自從我們引入大模型技術(shù)后，首先解決的就是這方面的一些問題。例如，通過大模型技術(shù)，我們能夠?qū)崿F(xiàn)文本自動(dòng)生成圖表和 PPT，連模板設(shè)計(jì)都變得不再必要，這在國(guó)有企業(yè)中已經(jīng)成為一種常規(guī)操作。然而，在安全至上的核電行業(yè)，大模型的應(yīng)用面臨一些特有的挑戰(zhàn)。
大模型的前期能力不足：這主要表現(xiàn)在兩個(gè)方面，一是大模型的幻覺問題嚴(yán)重，即生成的信息可能不準(zhǔn)確；二是泛化能力不足，即對(duì)特定領(lǐng)域的適應(yīng)性不強(qiáng)。解決這一問題沒有捷徑，需要耐心迭代，堅(jiān)信大模型的能力會(huì)隨著時(shí)間積累而實(shí)現(xiàn)質(zhì)的飛躍。
傳統(tǒng)行業(yè)的使用意愿低：這主要是因?yàn)榇蠹也皇煜と绾问褂么竽Ｐ?，或者沒有意識(shí)到大模型在解決特定問題上的優(yōu)勢(shì)。要提高使用意愿，可以通過提供培訓(xùn)、獎(jiǎng)勵(lì)機(jī)制，或者適度施加行政壓力等手段，激發(fā)大家使用大模型的動(dòng)力。
此外，大模型在寫論文方面的應(yīng)用，為企業(yè)員工提供了一個(gè)明顯的受益點(diǎn)，這可以作為一個(gè)非常好的突破口。通過大模型輔助撰寫或解讀論文，不僅可以提高研究效率，還能幫助員工在學(xué)術(shù)和專業(yè)領(lǐng)域取得更好的成果。
紀(jì)韓：大模型技術(shù)在金融領(lǐng)域的應(yīng)用已經(jīng)開始展現(xiàn)出顯著的業(yè)務(wù)價(jià)值。例如，它被用來幫助上市公司生成財(cái)報(bào)和金融機(jī)構(gòu)生成研報(bào)，這在一些合作緊密的上市公司中已經(jīng)成為現(xiàn)實(shí)。
提高研究效率和覆蓋度：在金融投資領(lǐng)域，大模型技術(shù)如投研支小助等產(chǎn)品可以輔助專家閱讀大量新聞、財(cái)報(bào)和研報(bào)，極大地提高了市場(chǎng)研究的及時(shí)性和覆蓋度。這種能力是人工所無法比擬的，可以說是量級(jí)式的提升。
風(fēng)險(xiǎn)識(shí)別和欺詐檢測(cè)：在風(fēng)控領(lǐng)域，大模型通過文本分析能夠識(shí)別資料中的矛盾點(diǎn)，進(jìn)行欺詐檢測(cè)，幫助風(fēng)險(xiǎn)管理部門更有效地識(shí)別潛在風(fēng)險(xiǎn)。
C 端用戶的金融助手：螞蟻集團(tuán)通過智能金融管家支小寶，將高端的金融管家服務(wù)帶給普通用戶。這種服務(wù)以往只有高凈值或超高凈值人群才能享受，但現(xiàn)在通過技術(shù)手段，可以讓每位用戶都獲得個(gè)性化的投資顧問和保險(xiǎn)配置服務(wù)。
解決投資焦慮：在市場(chǎng)波動(dòng)時(shí)，普通投資者可能會(huì)感到焦慮和不安。金融助手可以通過專業(yè)的分析幫助用戶理解市場(chǎng)動(dòng)態(tài)，減少不必要的擔(dān)憂，鼓勵(lì)長(zhǎng)期健康的投資行為。
普惠金融價(jià)值：雖然金融服務(wù)在業(yè)務(wù)數(shù)值上可能難以直接衡量，但從普惠金融的角度來看，技術(shù)的應(yīng)用具有巨大的社會(huì)價(jià)值。它可以幫助普通投資者更好地管理自己的財(cái)務(wù)，提高整個(gè)社會(huì)的金融素養(yǎng)。
InfoQ：對(duì)于 Al 大模型＋業(yè)務(wù)場(chǎng)景，各位老師有什么樣的暢想和規(guī)劃？據(jù)此，當(dāng)下企業(yè)該做好哪些準(zhǔn)備？
紀(jì)韓：我們公司內(nèi)部目前有一個(gè)普遍認(rèn)同的觀點(diǎn)：當(dāng)前大模型和智能體技術(shù)，正處在學(xué)習(xí)模仿金融專家的階段?，F(xiàn)階段，這項(xiàng)技術(shù)已經(jīng)能夠輔助金融專家進(jìn)行工作，未來我們希望它不僅僅是輔助的助手，還能進(jìn)行獨(dú)立的金融決策，成為金融專家的 Agent 替身。這是一個(gè)長(zhǎng)遠(yuǎn)的目標(biāo)，也是我們對(duì)未來技術(shù)發(fā)展的愿景。
王一帆：我們?cè)?span style="margin: 0px; padding: 0px; border: 0px; font-style: inherit; font-variant: inherit; font-weight: bold; font-stretch: inherit; font-size: inherit; line-height: inherit; font-family: inherit; font-optical-sizing: inherit; font-kerning: inherit; font-feature-settings: inherit; font-variation-settings: inherit; vertical-align: baseline;">供應(yīng)鏈分析和供應(yīng)鏈決策這兩個(gè)領(lǐng)域已經(jīng)取得了一些初步的成果和進(jìn)展。如果這些進(jìn)展順利，我們公司計(jì)劃在下半年推出一些基于大模型的新產(chǎn)品。請(qǐng)大家持續(xù)關(guān)注我們的動(dòng)態(tài)。
王澍：在我們這種傳統(tǒng)公司，準(zhǔn)備工作應(yīng)該從以下三個(gè)方面規(guī)劃。
一是機(jī)制建設(shè)：首要任務(wù)是建立一種機(jī)制，避免讓帶薪上班成為常態(tài)。這里存在一個(gè)矛盾：在產(chǎn)品可行性得到驗(yàn)證之前，企業(yè)不太可能進(jìn)行投資；但若沒有企業(yè)的投資，產(chǎn)品也無法完成可行性驗(yàn)證。因此，機(jī)制建設(shè)是我們需要優(yōu)先考慮的問題。
二是人才培養(yǎng)：對(duì)于垂直領(lǐng)域的大模型開發(fā)，需要該領(lǐng)域的專業(yè)人員深度參與。與其從外部培養(yǎng)專業(yè)人員，不如加強(qiáng)內(nèi)部人員的培養(yǎng)，使他們能夠掌握大模型技術(shù)，具備相關(guān)的能力。
三是算力儲(chǔ)備：我將這一點(diǎn)排在第三位，因?yàn)橹灰凶銐虻馁Y金，算力是相對(duì)容易獲取的資源。雖然重要，但相較于機(jī)制建設(shè)和人才培養(yǎng)，它并不是最迫切需要解決的問題。
本文轉(zhuǎn)自于 新浪微博
