只有從哲學(xué)層面思考人工智能，我們才能決定到底哪些是可以要的，哪些是不可以要的，而不是僅從技術(shù)層面來思考，因?yàn)閮H從技術(shù)層面是無法做出取舍的。
隨著人工智能的不斷發(fā)展，各種大模型仿佛一夜間就席卷全球。人類已經(jīng)進(jìn)入人工智能時(shí)代。這不再僅僅是一個(gè)口號(hào)，而化作很多人的一種“信仰”。
這股猛烈的人工智能熱潮，正蔓延到各個(gè)行業(yè)和領(lǐng)域，四處擴(kuò)散，攻城略地。人工智能必然會(huì)給經(jīng)濟(jì)帶來翻天覆地的變化，也成為中央和各地產(chǎn)業(yè)規(guī)劃的重中之重。
不過，產(chǎn)業(yè)層面的擴(kuò)張，并不必然可以消解人工智能本身可能帶來的社會(huì)隱憂。到底怎樣看待人工智能及其社會(huì)影響？對(duì)此，財(cái)新《中國(guó)改革》采訪了北京大學(xué)新聞與傳播學(xué)院教授胡泳。
財(cái)新：近期，你發(fā)表了多篇關(guān)于人工智能的學(xué)術(shù)文章和評(píng)論文章，為什么會(huì)關(guān)注這個(gè)話題？
胡泳：關(guān)于人工智能，現(xiàn)在業(yè)界比較大的預(yù)期就是通用人工智能（Artificial General Intelligence），它能夠在廣泛的認(rèn)知任務(wù)中與人類能力相匹配或超越人類能力。顧名思義，這一技術(shù)是通用型的。衡量以往的科技發(fā)展，很多技術(shù)并不是通用型的。人工智能是一種工具，卻又不僅僅是一種簡(jiǎn)單的工具。目前，大部分人工智能還是為特定任務(wù)所設(shè)計(jì)的，尚未成為通用型技術(shù)，但是有此潛力。而且，它一定是多功能的技術(shù)，能夠滿足多層級(jí)的需要。這就是人工智能與一般技術(shù)的差異所在。
互聯(lián)網(wǎng)、電等都屬于通用技術(shù)，為什么要把人工智能單獨(dú)提出來？因?yàn)槿斯ぶ悄荛_始影響人對(duì)自身的定義。沒有電，工廠等會(huì)停滯，生活會(huì)受到影響，但是，很難說電力會(huì)改變?nèi)诵?，?huì)改變?nèi)酥疄槿说乃伎?。比如，什么是意識(shí)，什么是情感，什么是記憶，人與機(jī)器的關(guān)系到底是怎樣的，對(duì)這些問題的回答和思考，都可能因?yàn)槿斯ぶ悄艿某霈F(xiàn)而發(fā)生改變。今天在思考人工智能發(fā)展時(shí)，嚴(yán)格來說，所有的問題不只是技術(shù)問題，還是哲學(xué)問題。所以，我為什么關(guān)注人工智能，因?yàn)樗婕暗氖侨说膯栴}，是哲學(xué)的本質(zhì)問題。
基本的哲學(xué)問題可以簡(jiǎn)單概況為三個(gè)方面，一是宇宙是什么，二是人類作為一個(gè)物種，又是什么，三是從個(gè)體角度而言，我是誰(shuí)。人工智能會(huì)影響到對(duì)這所有三個(gè)問題的定義和看法。過往，大家可能會(huì)覺得，普通人不需要思考這些哲學(xué)問題，交給哲學(xué)家去思考就可以，但是，隨著人工智能的出現(xiàn)和發(fā)展，每個(gè)人都不得不面對(duì)、不得不去思考這些哲學(xué)性的命題，它與每個(gè)人息息相關(guān)，不僅影響個(gè)人的職業(yè)，還影響對(duì)自身的認(rèn)知?？梢哉f，機(jī)器智能正在改寫人的智能，而且，以后每個(gè)人必然會(huì)與機(jī)器發(fā)生很多關(guān)系，無法避免。所以，每個(gè)個(gè)體都需要關(guān)注人工智能帶來的一系列問題。
財(cái)新：你是把人工智能放在人之為人、人類信仰等一些終極命題的角度予以思考，為什么要從這些角度審視人工智能？意義何在？
胡泳：諾伯特•維納在他的控制論著作中曾分析工業(yè)革命可能帶來人腦貶值。雖然工業(yè)革命確實(shí)帶來一些影響，但是，真正讓人腦貶值的并不是工業(yè)革命，而是正在發(fā)生的人工智能革命。所謂人腦貶值，可以通俗理解為，人在什么程度上被機(jī)器替代，或者說在什么程度上機(jī)器智能可以打敗人的智能，以及什么是人該做的，哪些又應(yīng)該交給機(jī)器。這一定會(huì)是一個(gè)此消彼長(zhǎng)的過程，人腦貶值就意味著機(jī)器增值。
涉及這個(gè)問題，就必然要討論究竟什么是真正的價(jià)值。如果還是在一般意義上討論人的價(jià)值，恐怕已經(jīng)很難，因?yàn)闄C(jī)器的記憶和處理能力比人類強(qiáng)大太多，幾乎沒有可比性，很多人類操控不了的工具，機(jī)器卻可以，人會(huì)不自覺地認(rèn)為自身比機(jī)器低一等，所以，這就需要重新界定價(jià)值。今天，如果要重估一切價(jià)值，其實(shí)，核心就是人的價(jià)值幾何，尤其是與機(jī)器相比，人的價(jià)值到底又是什么。
當(dāng)我們討論價(jià)值時(shí)，一定會(huì)有關(guān)于價(jià)值的排序，比如，什么是最重要的，離開它，人類就與機(jī)器沒有區(qū)別。這又涉及核心的底層問題。比如，進(jìn)化論造成類似的范式轉(zhuǎn)移的，正是因?yàn)槌霈F(xiàn)進(jìn)化論，很多觀念和看待事物的角度都發(fā)生改變。人類從猿猴進(jìn)化到人，是一個(gè)很大的飛躍，人變成世界的主宰，那么，隨之而來的問題便是，從人到智能機(jī)器，到底算不算進(jìn)化？如果承認(rèn)這也是進(jìn)化的邏輯，那么，得出的一個(gè)結(jié)論可能就是，人類可以碾死螞蟻，那么，機(jī)器可不可以用同樣的方式對(duì)待人呢？如果你是純粹的進(jìn)化論者，這就是一個(gè)可以理解的邏輯，實(shí)際上，很多技術(shù)精英就是秉持著這樣一種看法。
人類演變過程中，其實(shí)已經(jīng)拋棄了很多從前的看法，比如人類中心主義，但是，我們依然需要定義什么是人。一種說法稱，人是會(huì)使用工具的動(dòng)物，但是，大猩猩也會(huì)使用工具，另一種說法，人是會(huì)使用語(yǔ)言的動(dòng)物，可蜜蜂也有語(yǔ)言，定義就變得極其困難。這也是人工智能時(shí)代要面臨的，我也沒有答案，大家都還在認(rèn)識(shí)過程中。更要命的是，原來人類面對(duì)的是自然世界，現(xiàn)在要面對(duì)的是人造世界，比如，人類創(chuàng)造了算法，反過來又要直面它，這些變量加在一起，定義人是什么就變得更難了。其實(shí)，很多曾經(jīng)以為天經(jīng)地義的觀點(diǎn)，被打破了。
人工智能領(lǐng)域爭(zhēng)論不休的一個(gè)話題是意識(shí)。很多人認(rèn)為機(jī)器已經(jīng)有了意識(shí)，包括一些業(yè)內(nèi)高水平技術(shù)人才。從智力任務(wù)上看，比如圍棋，人類確實(shí)已經(jīng)無法戰(zhàn)勝機(jī)器，不過，機(jī)器有情感嗎，有情緒嗎，也有各種爭(zhēng)論。機(jī)器到底有沒有意識(shí)，應(yīng)該由誰(shuí)決定？我們會(huì)發(fā)現(xiàn)，無論各種專家怎么解釋，千差萬(wàn)別，信的人恒信，不信的恒不信，所以，在很大程度上，到底相信不相信機(jī)器有情感和意識(shí)，已經(jīng)不是一個(gè)科學(xué)問題，而是一個(gè)信念問題。甚至，不客氣地說，就連人工智能會(huì)不會(huì)徹底造成人類失業(yè)，也是信念問題，因?yàn)閮煞蕉伎梢越o出不同的答案和論證。那么，我們相信哪一方？一旦將其歸為信念，就是哲學(xué)問題了，因?yàn)閺募夹g(shù)層面討論不清楚。
所以，只有從哲學(xué)層面思考人工智能，我們才能決定到底哪些是可以要的，哪些是不可以要的，而不是僅從技術(shù)層面來思考，因?yàn)閮H從技術(shù)層面是無法做出取舍的。
財(cái)新：如果簡(jiǎn)單概括你關(guān)于人工智能的基本觀點(diǎn)或思考方向，可以總結(jié)成哪幾個(gè)方面？
胡泳：可以大致歸納為三個(gè)方面。第一，關(guān)于人工智能的應(yīng)用。我非常反對(duì)人工智能的擬人化，這本來就是人類中心主義的體現(xiàn)。一如對(duì)自家的寵物，或者自然界的各種現(xiàn)象，人類很可能也會(huì)賦予機(jī)器以情感，但是，這也許會(huì)把人類帶到一種很危險(xiǎn)的境地。實(shí)際上，我們并不需要一個(gè)類人的機(jī)器，把人工智能當(dāng)成助手就好，比如所謂的“3D勞動(dòng)”（dirty, dangerous and difficult），即骯臟的、危險(xiǎn)的和困難的勞動(dòng)，或者可以加上重復(fù)性的勞動(dòng)，這些交給人工智能就挺好，人與機(jī)器各得其所。一旦擬人化，造成人工智能發(fā)展的偏向，人反而喪失了應(yīng)有的位置。
第二，此前OpenAI的“宮斗”，是很狗血的劇情，成了全世界的焦點(diǎn)。少數(shù)人工智能的技術(shù)精英，他們享受著帝王般的關(guān)注，讓人覺得可笑。人工智能如此重要的問題，最后把所有的“寶”都押到到幾個(gè)頂尖的技術(shù)精英身上，這是很荒謬的。我們要反思的是，人類最終會(huì)不會(huì)成為少數(shù)人的牽線木偶？其實(shí)就是少數(shù)技術(shù)精英和資本，在決定著對(duì)人類影響深遠(yuǎn)和利益攸關(guān)的大事。政府規(guī)制和社會(huì)制約在哪里？
第三，我自己的思想也在發(fā)生變化。早先，我認(rèn)為技術(shù)是萬(wàn)變的，人的本性是不變的，人不斷用新工具，解決老問題，比如，嫉妒、悲傷、憤怒，都是經(jīng)久不變的。而現(xiàn)在我認(rèn)為，隨著人工智能的進(jìn)展，技術(shù)有可能改變?nèi)诵?。尤其是如前邊所說，人工智能已經(jīng)開始涉及人之為人的問題。當(dāng)然，現(xiàn)在還不能完全證明這一事實(shí)，需要一個(gè)漫長(zhǎng)的證明過程，包括機(jī)器可能對(duì)人腦產(chǎn)生怎樣的影響。如果考慮到不僅技術(shù)是變的，人性也是變的，那么，可預(yù)測(cè)的難度更會(huì)大大提升。
財(cái)新：人工智能方興未艾，甚至被視為新一輪科技革命的起點(diǎn)。在各方熱烈擁抱人工智能的同時(shí)，也有企業(yè)家和學(xué)者明確表示了憂慮。在面對(duì)每一次大的科技發(fā)展時(shí)，這種糾結(jié)是不是總會(huì)出現(xiàn)？圍繞人工智能所產(chǎn)生的爭(zhēng)論，與以往面對(duì)科技發(fā)展的糾結(jié)，又有什么不同？
胡泳：有相似之處，也存在一定差異。我的研究?jī)?nèi)容之一是傳播，從傳播角度看，諸如鐵路、電報(bào)、廣播、電視對(duì)社會(huì)的改變，盡管中間隔著很長(zhǎng)時(shí)間，但人類對(duì)它們的定調(diào)，包括用詞，非常類似。走過的軌跡也相似：起初公眾都很狂熱，認(rèn)為烏托邦就要來了，新技術(shù)帶來民主自由等等，對(duì)人類是解放性的。后來，逐漸地，公眾又開始認(rèn)為這些技術(shù)都是壓制性的，它所帶來的是專制，是更多的不自由不平等。
一個(gè)很典型的例子，在本世紀(jì)初，全球化高歌猛進(jìn)的時(shí)代，出現(xiàn)一種很重要的力量，這就是互聯(lián)網(wǎng)，把世界拉平，甚至有暢銷書稱“世界是平的”。但是，后來的歷史證明，世界不僅沒有變平，而且更不平了，最新的發(fā)展，我稱之為“飛地化”，東拼一塊，西湊一塊。全球化演變成反全球化或逆全球化。
上述全球化的論調(diào)與現(xiàn)在的人工智能也很相似，我們往往會(huì)高估技術(shù)給人類帶來的沖擊，卻會(huì)低估社會(huì)對(duì)技術(shù)發(fā)展的制約。或者說，就像一股洪流，總有人為其修建渠道，流向特定地方，而不是到處泛濫，而一旦需要將渠道整合到某一個(gè)方向，就可能涉及意識(shí)形態(tài)、文化等，這就決定了技術(shù)不可能隨心所欲擴(kuò)張，肆無忌憚生長(zhǎng)。這些過往的經(jīng)歷，都在警示我們。
有關(guān)高估和低估的另一種表述是，我們往往會(huì)在短期內(nèi)高估技術(shù)的影響，而在長(zhǎng)期內(nèi)則低估技術(shù)的影響。比如，互聯(lián)網(wǎng)的前瞻者們高估了互聯(lián)網(wǎng)改變現(xiàn)狀的速度。實(shí)際發(fā)展的情形是，現(xiàn)狀來了，并將互聯(lián)網(wǎng)殖民化。印刷機(jī)花了很長(zhǎng)時(shí)間才徹底改變了社會(huì)，但它最后確實(shí)改變了社會(huì)。社會(huì)的變化比技術(shù)的變化要慢得多。
不過，人工智能又有其特殊性。我們正在面臨人類的終極技術(shù)或者說是終極機(jī)器。因?yàn)槿斯ぶ悄艿募映郑瑱C(jī)器有了超人的智慧，哪怕它們也只是通用技術(shù)的一種，但不能仍視之為此前的通用技術(shù)，不能同等對(duì)待。人工智能對(duì)人的影響太大，需要將之變成公共議題，而不只是局限在技術(shù)領(lǐng)域。
財(cái)新：面對(duì)人工智能，到底什么樣的態(tài)度，才是更為理性的或者科學(xué)的？
胡泳：我們必須要意識(shí)到技術(shù)有自身的偏見，在施加到個(gè)體時(shí)，你或許認(rèn)為它是公允的，其實(shí)不是，背后實(shí)際體現(xiàn)出對(duì)不同人群的區(qū)別對(duì)待。大模型確實(shí)解決了人工智能的部分問題，也要承認(rèn)它有一定威力，但是，訓(xùn)練大模型的數(shù)據(jù)必須公平，才能產(chǎn)生公平的結(jié)果，也就是要平等對(duì)待所有人。但是，如果這些數(shù)據(jù)從一開始就存在偏見，導(dǎo)致對(duì)不同群體的不公平對(duì)待，該怎么辦？
再比如，社會(huì)正推動(dòng)大面積的人臉識(shí)別系統(tǒng)，雖然在某些方面可以帶來便利，但是，也可能帶來更多問題，造成更大的不公平，導(dǎo)致部分人群更弱勢(shì)。人臉識(shí)別被濫用的現(xiàn)象已經(jīng)不少，公眾讓渡生物數(shù)據(jù)，而這些基本的生物數(shù)據(jù)，一旦交出去，就不可能再拿回來了。如此龐大的數(shù)據(jù)，如果處于一種可能被濫用的情況下，怎么制約？有哪些防范手段？
想象一下，人工智能大面積普及，用于招聘篩選人才，很多人可能都無法進(jìn)入識(shí)別系統(tǒng)。本來由人類決策的內(nèi)容，交給人工智能，而人工智能并不解釋如何做出的決策，只通知結(jié)果。人類對(duì)社會(huì)發(fā)生的很多事情，喪失了知情權(quán)和控制權(quán)，變成系統(tǒng)中的一個(gè)棋子。
所以，將人工智能作為公共議題，其核心就是，必須給出要走某一條路的理由是什么。如果有很多路徑，那么，選擇其中一條路，人類得到了什么，又喪失了什么，這是需要追問的。當(dāng)只能選擇一種路徑的時(shí)候，一旦被系統(tǒng)排斥，我們又該怎么辦？人不能完全失去自主性。
財(cái)新：你擔(dān)心人工智能會(huì)失控嗎？一些科技人物甚至以公開信的形式提醒人工智能的風(fēng)險(xiǎn)，如何理解人工智能的“風(fēng)險(xiǎn)可控”？
胡泳：風(fēng)險(xiǎn)也是分層級(jí)的。以電腦時(shí)代的搜索引擎為例，當(dāng)用戶搜索時(shí)，起碼可以獲得很多結(jié)果，用戶從中找到自己最想要的那幾條。而人工智能時(shí)代，與機(jī)器人聊天，不再顯示搜索結(jié)果，反饋的只是一個(gè)機(jī)器人認(rèn)為它應(yīng)該提供給你的結(jié)果，而且，沒有原始網(wǎng)頁(yè)，無從分辨信息的真?zhèn)位蛘哔|(zhì)量。這就是所謂的低層面消除更多選擇性的一個(gè)例子。
很多本來應(yīng)該屬于人類做出的決策，現(xiàn)在交給機(jī)器，比如機(jī)器參與市場(chǎng)交易，或者人工智能應(yīng)用于醫(yī)療。終極結(jié)局就是機(jī)器自主決策。有些方面肯定是機(jī)器更有優(yōu)勢(shì)，但有些方面則不一定，比如事關(guān)人的復(fù)雜性或微妙性的情況，交給機(jī)器可能造成很多不可逆的后果。尤其是涉及生命時(shí)，如果使用人工智能武器殺人，人類只要給機(jī)器下了指令，就可以直接投放給敵對(duì)人群。殺人武器的智能化很可能造成人類生死存亡的災(zāi)難。
隨著我們將更多決策交給計(jì)算機(jī)，我們發(fā)現(xiàn)人類的選擇減少了。多樣性不再是生活的調(diào)味品。我們會(huì)到達(dá)這樣一個(gè)階段：重要的決定由計(jì)算機(jī)來作出。通過擴(kuò)大和加速由計(jì)算機(jī)而不是人類做出決策，我們面臨著推動(dòng)社會(huì)在一系列問題上走向平均的風(fēng)險(xiǎn)。
人工智能越是普及，越應(yīng)該加強(qiáng)通識(shí)教育
財(cái)新：你曾撰文提到，人工智能恐慌影響的第一個(gè)地方是教室。你能感受到的現(xiàn)在人工智能對(duì)教室或?qū)W生的影響，主要體現(xiàn)在哪些方面？人工智能與教育，到底是怎樣的關(guān)系？
胡泳：對(duì)于人工智能在教育領(lǐng)域的應(yīng)用，大家目前的恐慌主要集中在兩個(gè)方面，一是作弊，怎么識(shí)別作業(yè)是否依靠大模型撰寫，一是考試，如果大模型都能考過，會(huì)對(duì)考試和評(píng)估形成壓力。這兩點(diǎn)對(duì)教育的沖擊很大，將影響老師和學(xué)校到底該怎樣判定一個(gè)學(xué)生。對(duì)于這樣的挑戰(zhàn)，簡(jiǎn)單粗暴的操作方式就是禁，但是，禁肯定不奏效，長(zhǎng)期也禁不了，畢竟它對(duì)學(xué)生的誘惑力太大了。
不如反過來思考，人工智能可能帶來什么好處？從一個(gè)完全不同的角度看教育，這反而給我們一個(gè)警醒：原來的教育模式本來就存在問題。
人工智能和教育的關(guān)系，可以從三個(gè)方面展開。第一，以人工智能作為一種工具來幫助我們的教育。我們可以借助人工智能更新教學(xué)手段，比如，把一個(gè)對(duì)話式的機(jī)器人引入到教室，然后跟學(xué)生產(chǎn)生一些以往不可能產(chǎn)生的互動(dòng)。第二，至少對(duì)年輕一代來說，需要學(xué)習(xí)人工智能，因?yàn)檫@變成必備的一種本領(lǐng)。第三，需要為人工智能的未來做準(zhǔn)備，上述前兩個(gè)方面可以稱之為“技術(shù)層面”，這第三個(gè)方面則可以稱之為“人的層面”。人工智能本身可能有各種各樣的偏見，或者說歧視，又或者可能涉及倫理問題。因此，迫切需要提高人工智能素養(yǎng)。
財(cái)新：面對(duì)人工智能時(shí)代的來臨，教育要有怎樣的反思？要做哪些調(diào)適？
胡泳：《紐約時(shí)報(bào)》專欄作家大衛(wèi)•布魯克斯 （David Brooks）寫過一篇文章《在人工智能時(shí)代，主修“為人”》（In the Age of A.I., Major in Being Human），提出在人工智能時(shí)代主修的專業(yè)是“為人”，也就是怎么做一個(gè)人。如果人工智能可以代替很多工作，很多知識(shí)性或者技術(shù)性的都可以通過人工智能獲得，還剩下什么工作留給個(gè)人呢？只有那些更核心的人之為人的內(nèi)容，人工智能難以達(dá)到。布魯克斯列舉了一些人之為人的層面，諸如創(chuàng)造力、協(xié)作能力、批判性思維。其實(shí)，核心還是怎么區(qū)分人與人工智能。
如果說此前的教育是重視技能和知識(shí)，那么，人工智能時(shí)代則需要加強(qiáng)內(nèi)核。機(jī)器的特點(diǎn)是預(yù)測(cè)，做到不被機(jī)器預(yù)測(cè)的前提條件，就需要有一個(gè)特立獨(dú)行的世界觀。所以，我認(rèn)為通識(shí)教育很重要?，F(xiàn)代大學(xué)體制最主要的產(chǎn)出其實(shí)是研究，目前衡量教師的主要標(biāo)準(zhǔn)依然是研究，也就是論文，這是為了應(yīng)對(duì)工業(yè)革命后對(duì)專業(yè)勞動(dòng)力的大量需求。大學(xué)起源本來注重的是人文，由于工業(yè)革命的發(fā)展，需要大量成熟的專業(yè)勞動(dòng)力，所以，專業(yè)技能重要性提升，人文不斷被邊緣化。在“主修為人”的理念下，通識(shí)教育應(yīng)該大大加強(qiáng)。社會(huì)越技術(shù)化，人工智能越是普及，越應(yīng)該加強(qiáng)通識(shí)教育。不受束縛的人工智能，其實(shí)是挺可怕的。
財(cái)新：隨著互聯(lián)網(wǎng)的興起，尤其是平臺(tái)的壯大，人類加速邁入數(shù)字化時(shí)代。那么，人工智能的出現(xiàn)，尤其是各大平臺(tái)也相繼推出大模型，你認(rèn)為，未來可能給數(shù)字化時(shí)代帶來哪些新的變化？會(huì)對(duì)現(xiàn)有數(shù)字化格局造成哪些影響？
胡泳：現(xiàn)有數(shù)字化格局并不是人工智能帶來的新現(xiàn)象，而是與移動(dòng)互聯(lián)網(wǎng)的發(fā)展密切相關(guān)。隨著移動(dòng)互聯(lián)網(wǎng)格局的形成，各大平臺(tái)并存的模式也逐步確立。平臺(tái)經(jīng)濟(jì)崛起之后，互聯(lián)網(wǎng)經(jīng)濟(jì)基本就成了平臺(tái)把控的局面。
從市場(chǎng)經(jīng)濟(jì)角度看，平臺(tái)經(jīng)濟(jì)具有無限擴(kuò)張性。起初是依托某些商業(yè)模式興起，比如有的依靠搜索，有的依靠數(shù)字廣告，各有自身核心業(yè)務(wù)，但是，平臺(tái)一旦興起，又有無限擴(kuò)張性，很容易吞噬掉相鄰領(lǐng)域的業(yè)務(wù)，變成服務(wù)綜合體。大平臺(tái)幾乎涵蓋數(shù)字經(jīng)濟(jì)的所有層面，就像一張大網(wǎng)，罩住數(shù)字經(jīng)濟(jì)。
所以，平臺(tái)可以快速占領(lǐng)新興市場(chǎng)，任何一種新的業(yè)態(tài)出現(xiàn)，基本都是平臺(tái)率先進(jìn)入，搶占先機(jī)，因?yàn)槠脚_(tái)既有資本、技術(shù)、人才，還有大量的用戶和消費(fèi)者，又具備營(yíng)銷能力，幾乎無所不有，無所不能。以云計(jì)算為例，首先是平臺(tái)做起來的，國(guó)外的亞馬遜、谷歌、微軟，國(guó)內(nèi)的阿里、騰訊、華為等，這些巨頭基本瓜分了云市場(chǎng)，然后出現(xiàn)元宇宙等，其實(shí)還是這幾家，人工智能也差不多。而且，面對(duì)人工智能，這些平臺(tái)還可能動(dòng)員更多資源。所以，人工智能時(shí)代的平臺(tái)經(jīng)濟(jì)，基本還是延續(xù)并鞏固了原來的數(shù)字經(jīng)濟(jì)格局。
另一方面，平臺(tái)基本都是靠數(shù)據(jù)起家，也可稱為“數(shù)據(jù)煉金術(shù)”。原來的平臺(tái)“數(shù)據(jù)煉金術(shù)”主要是靠自身積累的數(shù)據(jù)，現(xiàn)在的人工智能則不僅依靠自身的數(shù)據(jù)，而是把全網(wǎng)數(shù)據(jù)作為數(shù)據(jù)訓(xùn)練，這就相當(dāng)于平臺(tái)的數(shù)據(jù)王國(guó)還在不斷擴(kuò)展。可以說，平臺(tái)很難自我調(diào)節(jié)的，更不會(huì)自我限制，最終的結(jié)果就是不斷強(qiáng)化既有平臺(tái)的規(guī)模和模式。所以，人工智能時(shí)代的平臺(tái)經(jīng)濟(jì)肯定不只是技術(shù)或者商業(yè)問題，也是一個(gè)政經(jīng)問題。
財(cái)新：平臺(tái)的不受限，可能帶來哪些后果？在人工智能的狂飆躍進(jìn)之時(shí)，是否已經(jīng)出現(xiàn)部分端倪？
胡泳：還是以云計(jì)算為例，云計(jì)算可以服務(wù)千行百業(yè)，所有大模型的運(yùn)算或者人工智能發(fā)展，都要依靠云服務(wù)，如果已經(jīng)是云服務(wù)巨頭，那么，就很有可能成為人工智能的巨頭，因?yàn)槎哂泻艽蟮年P(guān)聯(lián)性。而這些大模型發(fā)展的目的也是為了服務(wù)千行百業(yè)，平臺(tái)的無限擴(kuò)張性會(huì)體現(xiàn)得淋漓盡致，最后很可能就是蘋果應(yīng)用商店模式的翻版。對(duì)移動(dòng)應(yīng)用，蘋果公司具有充分話語(yǔ)權(quán)，不符合規(guī)格就要下架，而對(duì)于在其上的APP來說，相當(dāng)于沒了入口。
平臺(tái)經(jīng)濟(jì)其實(shí)是反經(jīng)濟(jì)的。在原來開放的互聯(lián)網(wǎng)環(huán)境下，并沒有這種“一夫當(dāng)關(guān)，萬(wàn)夫莫開”的關(guān)口。應(yīng)用程序的設(shè)計(jì)，部分是為了彌補(bǔ)基于移動(dòng)網(wǎng)絡(luò)訪問的各種缺陷。雖然它可以提供高效的和用戶友好的體驗(yàn)，但是，移動(dòng)應(yīng)用程序模式代表著一個(gè)比萬(wàn)維網(wǎng)更加不開放的互聯(lián)網(wǎng)生態(tài)系統(tǒng)。例如，主要的應(yīng)用程序商店（無論是iTunes App Store還是Google Play）發(fā)揮著強(qiáng)大的把關(guān)作用，而萬(wàn)維網(wǎng)中的內(nèi)容和應(yīng)用程序卻可以繞過中介機(jī)構(gòu)。這是內(nèi)容和應(yīng)用傳播上的一個(gè)根本變化。
APP屬于紅海，企業(yè)不得不做，而要想在紅海中脫穎而出，就必須營(yíng)銷，營(yíng)銷費(fèi)用也是平臺(tái)收取。本來，平臺(tái)是作為基礎(chǔ)經(jīng)濟(jì)，尤其是大量中小企業(yè)在平臺(tái)上運(yùn)作，基礎(chǔ)經(jīng)濟(jì)應(yīng)該收取的是基礎(chǔ)服務(wù)費(fèi)用，而不是無窮無盡榨取企業(yè)的各種價(jià)值。一旦捕食者最后也無食可補(bǔ)，就意味著這個(gè)生態(tài)是有問題的?；A(chǔ)經(jīng)濟(jì)企圖撈取超額利潤(rùn)，結(jié)果很可能就是生態(tài)瓦解，涸澤而漁，徹底破壞了生態(tài)系統(tǒng)。
所以，從過往的互聯(lián)網(wǎng)發(fā)展路徑推演未來人工智能時(shí)代的可能局面，上述的平臺(tái)現(xiàn)象極有可能在人工智能層面再次重演。
財(cái)新：外部規(guī)制能改變這種發(fā)展路徑嗎？
胡泳：美國(guó)一直有反壟斷傳統(tǒng)。世紀(jì)之交，微軟壟斷問題鬧得沸沸揚(yáng)揚(yáng)，當(dāng)時(shí)拆分微軟的呼聲也很高。但是，多年之后再看，眾多平臺(tái)巨無霸中，微軟受到的反壟斷威脅很小，因?yàn)樗臉I(yè)務(wù)已經(jīng)多元化，反而是業(yè)務(wù)相對(duì)集中的平臺(tái)，面臨強(qiáng)勢(shì)監(jiān)管。監(jiān)管強(qiáng)勢(shì)，或者說社會(huì)反彈到一定程度，即便大型科技公司未必被拆分，其擴(kuò)張勢(shì)頭也可能在一定程度上會(huì)得到遏制。
這些平臺(tái)公司在技術(shù)初創(chuàng)期可以恣意發(fā)展。但是，發(fā)展到一定程度，強(qiáng)勢(shì)監(jiān)管對(duì)它們未必完全不利，甚至一些平臺(tái)還主動(dòng)呼吁加強(qiáng)人工智能監(jiān)管。例如，谷歌就表示，人工智能太重要了，不監(jiān)管不行，而且監(jiān)管不好也不行。
在許多方面，人工智能已經(jīng)受到監(jiān)管。歐盟的《人工智能法案》有大量自上而下的規(guī)定性規(guī)則，包括禁止使用它認(rèn)為會(huì)帶來不可接受風(fēng)險(xiǎn)的人工智能；中國(guó)也規(guī)定，算法必須事先經(jīng)過國(guó)家審查，并“應(yīng)堅(jiān)持社會(huì)主義核心價(jià)值觀”。美國(guó)則采取了典型的去中心化做法，最有可能的結(jié)果是行政部門自下而上的拼湊行動(dòng)。與歐洲不同，美國(guó)不太可能在未來幾年內(nèi)通過一項(xiàng)廣泛的國(guó)家人工智能法。成功的立法很可能集中在爭(zhēng)議較少和有針對(duì)性的措施上，這會(huì)令支持制定強(qiáng)有力的國(guó)家人工智能法規(guī)的人感到失望。這種結(jié)果會(huì)更混亂，也會(huì)有漏洞，但是，沒有廣泛的國(guó)家法律并不意味著沒有監(jiān)管。在美國(guó)，我們很可能會(huì)看到針對(duì)特定領(lǐng)域的機(jī)構(gòu)行動(dòng)，尤其是在醫(yī)療保健、金融服務(wù)、住房、勞動(dòng)力和兒童安全方面，此外還有多項(xiàng)行政命令。如果執(zhí)行得當(dāng)，這些拼湊起來的規(guī)則將以特定機(jī)構(gòu)的專業(yè)知識(shí)為基礎(chǔ)，也許更加適合創(chuàng)新。
財(cái)新：平臺(tái)時(shí)代的信息繭房、情緒傳播或圈層文化，已經(jīng)十分明顯，甚至在不同平臺(tái)上，人們對(duì)于某一問題的看法，都有較大差異，出現(xiàn)各自鮮明的特點(diǎn)。人工智能會(huì)不會(huì)進(jìn)一步強(qiáng)化這一現(xiàn)象，或者出現(xiàn)更為嚴(yán)重的難以預(yù)測(cè)的后果？
胡泳：信息繭房、情緒傳播等是社交媒體所帶來的問題，要反思社交媒體發(fā)展路徑。不乏論者指出，社交媒體創(chuàng)造了一種欺騙、自戀和絕望的環(huán)境，根本不是社交。本來起點(diǎn)可能是良性的，但走著走著就變味了，出現(xiàn)很多怪象亂象。無論是流量至上，還是共識(shí)喪失、社會(huì)撕裂，其實(shí)都與社交媒體的發(fā)展有一定關(guān)系。
這就引申出一個(gè)關(guān)鍵問題，當(dāng)前的互聯(lián)網(wǎng)是不是需要改寫底層邏輯，或者說重建互聯(lián)網(wǎng)。目前的流量游戲，讓各方欲罷不能。大家都有利益訴求，玩同一個(gè)游戲，也就一定會(huì)有贏家，而贏家會(huì)進(jìn)一步推動(dòng)沿著既有方向不斷強(qiáng)化，但是，負(fù)面影響或者受影響人群也在急速擴(kuò)大?；ヂ?lián)網(wǎng)的發(fā)展態(tài)勢(shì)，也可以從話語(yǔ)轉(zhuǎn)變中管窺一豹：早期提到互聯(lián)網(wǎng)，多會(huì)聯(lián)想到一些比較理想化的詞匯，諸如自由、平等、民主化，而現(xiàn)在談的更多的是隱私、安全、壟斷等消極詞匯。這也反映出社會(huì)上對(duì)互聯(lián)網(wǎng)的看法發(fā)生很大變化。只不過，這種認(rèn)知的變化能在多大程度上改寫互聯(lián)網(wǎng)底層邏輯，就是未知數(shù)了。因?yàn)榧扔械睦嫒后w過于強(qiáng)大。
總之，底層邏輯不改寫，所有問題都會(huì)存在，而且，隨著人工智能時(shí)代的到來，上述問題還可能進(jìn)一步加劇。人工智能算法的廣泛使用，尤其是根據(jù)用戶之前的在線活動(dòng)向用戶推薦內(nèi)容和產(chǎn)品的算法，導(dǎo)致回聲室效應(yīng)越來越大，限制了在線呈現(xiàn)給用戶的信息，促使他們只閱讀與他們的人生觀和意見產(chǎn)生共鳴的內(nèi)容。在這種信息繭房中，用戶只會(huì)聽到能強(qiáng)化自己觀點(diǎn)的聲音?？梢灶A(yù)期，人工智能驅(qū)動(dòng)算法的廣泛應(yīng)用將會(huì)繼續(xù)減少對(duì)意識(shí)形態(tài)各異的新聞、觀點(diǎn)和朋友的接觸。
數(shù)據(jù)不再只是生產(chǎn)資料，更成為一種權(quán)力
財(cái)新：訓(xùn)練數(shù)據(jù)是大語(yǔ)言模型能夠獲得生成、推理、預(yù)測(cè)等能力的基礎(chǔ)。不過，更多的數(shù)據(jù)，更大的模型，并不意味著更好的結(jié)果。為什么會(huì)出現(xiàn)對(duì)數(shù)據(jù)規(guī)模的迷信？這一迷信可能導(dǎo)致什么危害？
胡泳：由大語(yǔ)言模型引領(lǐng)的非監(jiān)督性深度學(xué)習(xí)浪潮，一個(gè)核心議題就是訓(xùn)練數(shù)據(jù)。一味追求訓(xùn)練數(shù)據(jù)的規(guī)模和質(zhì)量，最終演繹成“萬(wàn)模大戰(zhàn)”形勢(shì)下的“數(shù)據(jù)為王”法則。各大科技公司如同軍備競(jìng)賽一般，不斷公布著基于更多訓(xùn)練數(shù)據(jù)的更大的語(yǔ)言模型，仿佛訓(xùn)練數(shù)據(jù)是一種永生資源，永遠(yuǎn)沒有被消耗殆盡的那一天；而只要數(shù)據(jù)規(guī)模和參數(shù)規(guī)模與提高模型性能成正相關(guān)，這場(chǎng)軍備競(jìng)賽就永遠(yuǎn)不會(huì)停歇。
在訓(xùn)練數(shù)據(jù)的價(jià)值、功能和誤讀的背后，是對(duì)數(shù)據(jù)概念的改寫、對(duì)數(shù)據(jù)可供性的迷信和對(duì)數(shù)據(jù)所有權(quán)的爭(zhēng)奪。實(shí)際上，這場(chǎng)人工智能革命的潛在危險(xiǎn)正在伴隨著誤讀而發(fā)生。比如，訓(xùn)練數(shù)據(jù)并非不可耗盡。這些訓(xùn)練數(shù)據(jù)，在大多數(shù)情況下，均不加區(qū)別地來自開放的互聯(lián)網(wǎng)。科技公司對(duì)訓(xùn)練數(shù)據(jù)的貪婪，還體現(xiàn)出對(duì)訓(xùn)練數(shù)據(jù)的另一種誤解：數(shù)據(jù)規(guī)模其實(shí)并不是優(yōu)化模型的萬(wàn)能靈藥。
如果說今日平臺(tái)的偏見生產(chǎn)來自算法繭房、情緒傳播和圈層文化，那么，生成式內(nèi)容所產(chǎn)生的偏見不僅通過訓(xùn)練技術(shù)復(fù)制了互聯(lián)網(wǎng)時(shí)代的窠臼，更因?yàn)闄C(jī)器編碼霸權(quán)造成語(yǔ)言的濫用和“數(shù)據(jù)繭房”的產(chǎn)生。一輪又一輪的數(shù)據(jù)套娃式訓(xùn)練模式下，人工干預(yù)讓位于機(jī)器學(xué)習(xí)的內(nèi)容生產(chǎn)方式，毫無疑問更加凸顯其封閉性，傷害和風(fēng)險(xiǎn)也就這樣不斷自動(dòng)生成。
事實(shí)證明，“最好的數(shù)據(jù)就是更多的數(shù)據(jù)”的數(shù)據(jù)迷信已經(jīng)破滅，更大的模型并不意味著更好的結(jié)果。訓(xùn)練數(shù)據(jù)和大語(yǔ)言模型需要破除規(guī)模的迷思，更多地思考如何讓數(shù)據(jù)切實(shí)成為社會(huì)技術(shù)系統(tǒng)的一部分。
財(cái)新：你曾明確提出，在訓(xùn)練數(shù)據(jù)作為未來人工智能發(fā)展范式的模型底層基礎(chǔ)的前提下，平臺(tái)的力量還將表現(xiàn)為“數(shù)據(jù)力量”，數(shù)據(jù)不再只是生產(chǎn)資料，更成為一種權(quán)力。當(dāng)平臺(tái)不斷強(qiáng)化作為權(quán)力的數(shù)據(jù)時(shí)，可能出現(xiàn)怎樣的局面？
胡泳：今天我們討論數(shù)據(jù)時(shí)，已經(jīng)不存在一種“純粹”的數(shù)據(jù)概念，所有進(jìn)入話語(yǔ)層面和實(shí)踐層面的數(shù)據(jù)，其實(shí)都是為平臺(tái)、政府和機(jī)構(gòu)所用的具有高使用價(jià)值的生產(chǎn)資料。作為生產(chǎn)資料的數(shù)據(jù)，在現(xiàn)行的平臺(tái)經(jīng)濟(jì)模式中呈現(xiàn)出排他性、競(jìng)爭(zhēng)性的特征。
有一種觀點(diǎn)認(rèn)為，數(shù)據(jù)具有公共性、共享性，不能為特定主體所占有，然而，在真實(shí)的市場(chǎng)環(huán)境中，數(shù)據(jù)正在為不同的平臺(tái)所獨(dú)享，而造成這一情形的原因則來自今日平臺(tái)特定的商業(yè)模式和可用數(shù)據(jù)背后的高成本。
也正是因?yàn)榻袢諗?shù)據(jù)的排他性，以及維護(hù)數(shù)據(jù)所需要的必要財(cái)力和技術(shù)基礎(chǔ)，既有平臺(tái)格局呈現(xiàn)出極其不均衡的分配狀況，數(shù)據(jù)，尤其是掌握在具有市場(chǎng)壟斷地位的大平臺(tái)手中的高質(zhì)量數(shù)據(jù)，已然構(gòu)成了相當(dāng)強(qiáng)大的競(jìng)爭(zhēng)壁壘。
可悲的是，以數(shù)據(jù)為主導(dǎo)的網(wǎng)絡(luò)效應(yīng)和以占有數(shù)據(jù)專有權(quán)為手段的壟斷模式，并不會(huì)隨著大語(yǔ)言模型新機(jī)會(huì)的到來而得到改變，相反，這場(chǎng)人工智能游戲依然以數(shù)據(jù)為籌碼，能夠進(jìn)入牌桌的還是往日的科技寡頭，甚至，玩家規(guī)模會(huì)進(jìn)一步縮小。
缺乏高質(zhì)量數(shù)據(jù)儲(chǔ)備量和獲取入口的市場(chǎng)主體，要想與高質(zhì)量數(shù)據(jù)擁有者展開競(jìng)爭(zhēng)，要么通過支付高昂對(duì)價(jià)或合并收購(gòu)獲取新鮮數(shù)據(jù)流（而這對(duì)于初創(chuàng)企業(yè)幾乎是天方夜譚），要么被迫接受其提供的產(chǎn)品或服務(wù)被擊敗的殘酷事實(shí)。所以，在平臺(tái)嚴(yán)守?cái)?shù)據(jù)的前提下，平臺(tái)公共性肯定會(huì)進(jìn)一步削弱。這也就是我為什么說平臺(tái)的力量將表現(xiàn)為“數(shù)據(jù)力量”，數(shù)據(jù)不再只是生產(chǎn)資料，更成為一種權(quán)力。
圍繞這一權(quán)力，未來的趨勢(shì)將是各家平臺(tái)阻礙數(shù)據(jù)跨平臺(tái)轉(zhuǎn)移、加劇數(shù)據(jù)集中，直至形成難以打破的數(shù)據(jù)壟斷。
本文轉(zhuǎn)自于 財(cái)新網(wǎng)
