摘要：GPT-3被譽為人工智能領(lǐng)域的重大突破，有人認為它甚至顯示出初步意識跡象，另一些人則指出GPT-3存在可笑的缺陷。

它可以大量炮制電子郵件、計算機代碼、互聯(lián)網(wǎng)廣告、電子游戲情節(jié)主線、吉他即興樂段，以及萬圣節(jié)的服裝建議。它可以寫出幾可亂真的艾米莉?狄金森（Emily Dickinson）風格的詩歌，或是歐內(nèi)斯特?海明威（Ernest Hemingway）風格的散文，甚至在得到指令后，它還能夠?qū)懗鲆欢蔚医鹕秃Ｃ魍g的虛構(gòu)對話。

它的可能性似乎無窮無盡。因此，當我有機會與“生成式預(yù)訓(xùn)練變換器3”（GPT-3）——一款新的語言生成模型，過去幾個月，它在人工智能領(lǐng)域引起了轟動——進行互動時，我請它幫我起草了一份新的履歷，并要求要有濃厚的《星球大戰(zhàn)》（Star Wars）中的英雄盧克?天行者（Luke Skywalker）的風格。

GPT-3學(xué)習了互聯(lián)網(wǎng)上幾乎所有可訪問的文本，速度、規(guī)模和通用性都很驚人。以下是它瞬間生成的文本：“約翰?桑希爾在加入‘義軍同盟’（Rebel Alliance）時已經(jīng)是一位功勛卓著的戰(zhàn)爭英雄。在軍事方面，他擅長使用爆能槍和直覺。但他真正的能力要在他的戰(zhàn)機中隊中才能體現(xiàn)出來。在起義軍中，約翰升任戰(zhàn)機中隊指揮官，他帶領(lǐng)自己的隊伍經(jīng)歷了無數(shù)的戰(zhàn)斗，這使他成為了一個具有真正起義軍精神的堅定領(lǐng)導(dǎo)者?！蔽沂菚r候更新我的名片了。

由于機器學(xué)習近期取得的進展，語言生成系統(tǒng)正變得越來越普遍。例如，Narrative Science旗下產(chǎn)品Quill可以提取股票投資組合的表現(xiàn)數(shù)據(jù)，并為投資者編寫摘要。但就純粹的適應(yīng)性而言，沒有任何系統(tǒng)能與GPT-3相比。GPT-3是總部位于舊金山的研究公司OpenAI于今年5月發(fā)布的。GPT-3估計耗資1200萬美元，包含1750億個語言參數(shù)，是先前原型模型的100倍。借用英國計算機科學(xué)之父艾倫?圖靈（Alan Turing）的話說，這是迄今為止最令人印象深刻的“模仿”機器。

圖靈是第一批對世界將如何被能夠思考的機器所改變展開想象的人之一。他在自己1950年發(fā)布的論文《計算機器與智能》（Computing Machinery and Intelligence）中解釋稱，有一天，計算機可能會變得非常善于模仿人類，以至于人們無法把它們與有血有肉的人類加以區(qū)分。圖靈寫道：“我們可以希冀，機器最終將在所有純智能領(lǐng)域與人類展開競爭。”

這種通用的計算機器可以通過讓一個在進行電子對話的人相信他正在與另一個人類互動，來贏得圖靈所稱的“模仿游戲”，盡管現(xiàn)在一些人認為這種所謂的圖靈測試（Turing Test）可能更多地反映了人類的輕信程度，而不是真正的機器智能。

70年過去了，得益于互聯(lián)網(wǎng)的快速發(fā)展以及計算能力的指數(shù)級增長，我們已經(jīng)進入了一個甚至超出圖靈想象的機器化世界。隨著神經(jīng)網(wǎng)絡(luò)和深度學(xué)習等新型軟件技術(shù)的出現(xiàn)，計算機科學(xué)家在指導(dǎo)機器進行模仿游戲方面的能力已經(jīng)大大提高。

一些已經(jīng)對GPT-3進行過實驗的人表示，它帶來了真正智能的曙光，標志著向人工智能的終極目標——通用人工智能（AGI）——邁出的重要一步。通用人工智能意味著電子智能在幾乎所有智能領(lǐng)域與人類匹敵。另一些人則認為這是無稽之談，他們指出GPT-3存在可笑的缺陷，并暗示我們距離創(chuàng)造出這樣的超級智能還有好幾個概念上的突破。

OpenAI現(xiàn)年35歲的冷面首席執(zhí)行官薩姆?奧爾特曼（Sam Altman）是硅谷最受人矚目的人物之一。他表示，聰明的人在面對GPT-3時感到格外興奮是有原因的?！坝凶C據(jù)表明，這是通用人工智能的第一個先驅(qū)產(chǎn)品——這個系統(tǒng)能夠支持許多不同的應(yīng)用程序，并且真正提升我們能夠開發(fā)出的軟件種類?！彼诮邮苡督鹑跁r報》采訪時表示，“我認為，它之所以重要是因為它窺見了未來?！?/p>

OpenAI是全球最不尋常的企業(yè)之一，或許只有谷歌（Google）旗下的DeepMind——杰米斯?哈薩比斯（Demis Hassabis）執(zhí)掌的、總部位于倫敦的人工智能研究企業(yè)——能與之媲美。正如奧爾特曼所說，OpenAI的120名員工可以被分為三個截然不同的“群體”：人工智能研究人員、初創(chuàng)企業(yè)的建設(shè)者以及科技政策與安全專家。它與極具前瞻性的腦機接口企業(yè)Neuralink共享位于舊金山的辦公區(qū)域。

2015年，OpenAI依靠美國西海岸幾位著名的企業(yè)家與科技公司承諾為其提供的10億美元資金得以成立。該公司宣稱自己雄心勃勃的使命是開發(fā)通用人工智能，以造福全人類。最早為其提供支持的億萬富翁包括特斯拉（Tesla）和SpaceX反復(fù)無常的創(chuàng)始人埃隆?馬斯克（Elon Musk，他后來退出了OpenAI）、領(lǐng)英（LinkedIn）的創(chuàng)始人兼風險投資家里德?霍夫曼（Reid Hoffman），以及Facebook和Palantir的早期投資人彼得?蒂爾（Peter Thiel）。

OpenAI在創(chuàng)立之初是一家非營利企業(yè)，但隨后采用了更加商業(yè)化的運營方式，并于去年接受了微軟（Microsoft） 10億美元的進一步投資。作為一家“有限盈利”企業(yè)，它能夠籌集資金和發(fā)行股票（如果你想吸引硅谷最優(yōu)秀的研究人員，這一點是必要的），同時堅持自己指導(dǎo)性的公共使命，而不會面臨股東的過度施壓。奧爾特曼表示：“這種企業(yè)結(jié)構(gòu)能夠讓我們來決定何時、以及以何種方式公布技術(shù)?！?/p>

奧爾特曼于去年擔任首席執(zhí)行官一職，此前他掌管硅谷最成功的初創(chuàng)企業(yè)孵化器之一Y Combinator，后者幫助孵化了逾2000家企業(yè)，包括愛彼迎（Airbnb）、Dropbox和Stripe。他表示，他只是因為受到了誘惑才放棄了這份“夢想中的工作”，轉(zhuǎn)而幫助解決人類所面臨的最緊迫的挑戰(zhàn)之一：如何開發(fā)安全有益的人工智能?！斑@是我能想象到的最重要的工作?！彼硎荆拔也粫b作已經(jīng)知道了所有答案，但我很樂意盡我所能做出貢獻?！?/p>

在奧爾特曼看來，正在展開的人工智能革命對人類的影響，可能遠遠超過之前農(nóng)業(yè)、工業(yè)和計算機革命的總和。通用人工智能的發(fā)展將從根本上改變?nèi)祟惻c機器之間的關(guān)系，有可能誕生更高級形式的電子智能。到那時，正如以色列歷史學(xué)家尤瓦爾?諾亞?哈拉里（Yuval Noah Harari）所言，智人將不再是地球上最聰明的算法。

奧爾特曼表示，如果管理得當，人工智能可以改變?nèi)祟惖纳a(chǎn)率和創(chuàng)造力，讓我們能夠解決全球許多最復(fù)雜的挑戰(zhàn)，例如氣候變化和流行病。他表示：“我認為這將是一個無比強大的未來?！钡绻芾聿划敚斯ぶ悄芸赡苤粫觿∥覀兡壳懊媾R的很多問題：企業(yè)權(quán)力過度集中，因為私營企業(yè)承擔了越來越多曾經(jīng)由政府行使的功能；經(jīng)濟不平等進一步加深和機會縮??；虛假信息的傳播和民主的侵蝕。

尼克?博斯特羅姆（Nick Bostrom）等一些作家甚至認為，失控的人工智能甚至可能對人類的生存構(gòu)成威脅。他在2014年出版的《超級智能》（Superintelligence）一書中寫道：“面對智能爆炸的前景，我們?nèi)祟惥拖裥『⒆釉谕嬲◤??！边@些警告肯定引起了埃隆?馬斯克的注意，他發(fā)布推文稱：“對待人工智能，我們需要超級小心……它可能比核武器還要危險?！?/p>

對于如何最好地管理這些強大工具的擔憂，使得OpenAI只在受控環(huán)境下發(fā)布了GPT-3。奧爾特曼表示：“GPT-3不是我們想要向全世界推出、然后無法控制推進方式的模型?！蹦壳?，大約2000家公司獲準在受控的私下beta測試中訪問該模型。它們在探索其功能時學(xué)習到的知識將反饋到這個模型，以便繼續(xù)改進。開發(fā)人員給出了“令人震驚”、“驚人地出色”和“太棒了”這樣的回應(yīng)。

紐約大學(xué)（New York University）教授、心靈哲學(xué)專家戴維?查默斯（David Chalmers）甚至認為GPT-3先進到顯示出初級的意識跡象。他在哲學(xué)網(wǎng)站Daily Nous寫道：“我接受擁有302個神經(jīng)元的蠕蟲是有意識的，因此我也接受擁有1750億個參數(shù)的GPT-3具備意識?！?/p>

然而，沒過多久，用戶就暴露出了GPT-3的陰暗面，并引誘它發(fā)表帶有種族主義和性別歧視的言論。有些人擔心這只會引發(fā)一波“語義垃圾”浪潮。一名大學(xué)生利用GPT-3模型用假名撰寫的一篇假博文甚至登上科技網(wǎng)站Hacker News的頭條。

如果OpenAI發(fā)現(xiàn)任何有意或無意濫用的證據(jù)，例如生成垃圾郵件或有害內(nèi)容，它可以關(guān)閉這位濫用用戶并更新其模型的行為，以減少這種情況再次發(fā)生的幾率。奧爾特曼表示：“如果用戶違反條款和條件，我們當然可以把他關(guān)閉——我們會這么做——但更令人興奮的是，我們能非常迅速地改變一些東西?！?/p>

“我們把它作為通用人工智能發(fā)布的一個原因是，我們可以在它表現(xiàn)出色和糟糕的領(lǐng)域練習使用它：哪類應(yīng)用有效，哪類無效，”他表示，“這實際上是我們在練習使用這些強大的通用人工智能系統(tǒng)。”

在未來的人工智能系統(tǒng)應(yīng)用于聊天機器人、護理機器人或自動駕駛汽車等領(lǐng)域時，這些學(xué)習應(yīng)有助于改善這些系統(tǒng)的設(shè)計和安全性。

盡管GPT-3目前的表現(xiàn)在許多方面都令人印象深刻，但它真正的意義很可能在于它為以后的新一代模型發(fā)展出的能力。目前，它的運行就像超級復(fù)雜的自動完成功能，能夠在毫無理解概念的情況下，把聽上去合理的單詞序列串在一起。正如圖靈幾十年前預(yù)見的那樣，計算機可以在不需要理解的情況下實現(xiàn)在很多領(lǐng)域的能力。

斯坦福大學(xué)以人為本人工智能研究院（Stanford Institute for Human-Centred AI）聯(lián)席院長約翰?埃切門迪（John Etchemendy）強調(diào)，目前，即便是最強大的語言生成模型也存在局限性，他表示，盡管GPT-3可能被訓(xùn)練生成文本，但它對文本的含義沒有直觀的理解。相反，其結(jié)果來自數(shù)學(xué)概率建模。但他表示，隨著時間的推移，最近計算機語言和視覺系統(tǒng)的進展可能會顯著增強其能力。

“如果我們能根據(jù)既有文本又有圖像的多模態(tài)數(shù)據(jù)訓(xùn)練出一些東西，那就太棒了，”他表示，“到那時，由此得到的系統(tǒng)不僅可以知道如何使用‘紅色’這個詞來生成句子，還可以使用紅色這個顏色。我們可以開始建立一個真正理解語言的系統(tǒng)，而不是一個基于統(tǒng)計能力的系統(tǒng)?！?/p>

醫(yī)療數(shù)據(jù)公司Nabla Technologies檢測了GPT-3提供醫(yī)療建議的能力，指出了GPT-3目前能力與理解力之間不匹配的情況可能帶來的傷害。他們發(fā)現(xiàn)，GPT-3有一次甚至支持了一名虛構(gòu)病人的自殺欲望。（OpenAI明確警告了在這種“高風險”情況下使用GPT-3的危險。）

愛丁堡大學(xué)（University of Edinburgh）數(shù)據(jù)與人工智能倫理學(xué)教授香農(nóng)?瓦洛（Shannon Vallor）表示，這些案例突出了人類持續(xù)監(jiān)控這些自動化系統(tǒng)的必要：“目前，GPT-3每時每刻都需要一名人類監(jiān)控者來告訴它什么內(nèi)容不能說。問題在于，GPT-3不是真的智能。它不能像人類一樣學(xué)習。GPT-3無法明白這些特定言論的不合適之處，并停止說出這些言論。這是一個明顯且巨大的漏洞，我不清楚我們?nèi)绾文軌蚪鉀Q它?！?/p>

“互聯(lián)網(wǎng)的前景在于，它將有能力以更公平、更可接受的方式給人類提供知識，”瓦洛補充說，“我擔心，由于GPT-3這樣的技術(shù)，我們即將面臨真正的倒退，即信息共享空間（information commons）越來越不可用，甚至會對人們產(chǎn)生傷害。”

領(lǐng)英創(chuàng)始人、OpenAI董事會成員之一里德?霍夫曼表示，OpenAI正努力設(shè)計安全的操作流程和更好的治理模型。他表示，為了防止出現(xiàn)壞結(jié)果，你需要做三件事：抹去在社會偏見中形成的不良歷史數(shù)據(jù)；將某種形式的可解釋性植入人工智能系統(tǒng)，并且理解你需要修正的東西；持續(xù)交叉比對任何系統(tǒng)的輸出結(jié)果與其初始目標。他表示：“這方面的許多嘗試已經(jīng)開始有了眉目。人們對這些難題很警惕，正在努力解決它們?！?/p>

“問題不在于你要如何阻止技術(shù)，而在于你要如何塑造技術(shù)?！彼a充說，“火箭本身并不壞。但如果火箭被一個想搞破壞、而且有炸彈的人控制，那就很糟了。我們要如何引領(lǐng)正確的方向？新條約是什么樣？新監(jiān)控方式是什么樣？你要打造或者不打造什么樣的技術(shù)？所有這些都是當下的、人們正在積極探討的問題?！?/p>

提出這樣的問題無疑是出于好意。然而，給出滿意的答案需要一些史無前例的壯舉：學(xué)術(shù)研究者、私營企業(yè)、國家政府、公民社會和國際機構(gòu)組成的不斷變化的聯(lián)盟通過想象力、合作以及有效執(zhí)行來共同完成的壯舉。與往常一樣，危險在于科技進步的速度可能快過人類智慧。

溫哥華初創(chuàng)企業(yè)Broca的聯(lián)合創(chuàng)始人兼首席執(zhí)行官錫德?巴拉特（Sid Bharath）是加緊商業(yè)化GPT-3技術(shù)的一小群企業(yè)家之一（我那份以盧克?天行者為靈感的履歷就是他的產(chǎn)品創(chuàng)作的）。由于他的數(shù)字市場營銷公司的業(yè)務(wù)在夏天因為新冠危機而放緩，巴拉特把時間用在搗鼓GPT-3上，并為他的發(fā)現(xiàn)而著迷。

他將他在各類話題上與GPT-3的交互形容為“有些令人毛骨悚然”，暗示其智能水平是他此前在其他計算機模型中沒有見過的。他表示：“我曾與GPT-3聊過人生的意義，它給我很多啟發(fā)。它說人生的意義在于給宇宙增添美，我此前從未想過這種說法?！?/p>

但在他的商業(yè)生涯中，巴拉特正在將GPT-3用于更平凡的用途，他利用這個系統(tǒng)為他的客戶生成谷歌搜索廣告的多樣表達方式，即使這些廣告還沒好到不經(jīng)檢查就可使用?！昂芏嗍袌鰻I銷都與創(chuàng)作內(nèi)容有關(guān)。這非常耗費時間，而且需要大量實驗。GPT-3能以工業(yè)級規(guī)模完成這些工作。”他表示，“我們的客戶很喜歡它。”

OpenAI的奧爾特曼表示，GPT-3讓以前不可能的事情變得可能，人們因此可以創(chuàng)立新公司，而見證這一切的過程是“很酷”的，盡管他承認“很多宣傳確實有點過頭了”。他表示，利用這個模型寫電腦代碼和共同創(chuàng)作電郵的商業(yè)可能性令他很感興趣。GPT-3還讓智能問答模式的搜索成為可能，幫助人們尋找新冠肺炎最新研究論文中的答案和參考文獻。他說：“生產(chǎn)率軟件和共同創(chuàng)作將會擁有巨大商業(yè)價值?！?/p>

已接受微軟投資的OpenAI還將自己的GPT-3技術(shù)獨家授權(quán)給了該軟件巨頭。這讓微軟有權(quán)在自家所有產(chǎn)品和服務(wù)中使用這項技術(shù)，也許包括其無處不在的數(shù)字輔助工具。

克里斯蒂安?哈蒙德（Kristian Hammond）是芝加哥技術(shù)公司Narrative Science的首席科學(xué)顧問，他一直站在嘗試將自然語言處理商業(yè)化的前沿。他形容GPT-3是一項“絕妙的技術(shù)”，但表示我們需要清楚它的局限：“我對GPT-3的擔憂在于，它就像是紙牌魔術(shù)。它確實是非常棒的紙牌魔術(shù)。而且我很喜歡紙牌魔術(shù)。你以為你眼前發(fā)生了什么事情，但它并非你想的那樣。它只不過給你一些看上去很對、符合統(tǒng)計學(xué)的詞句。但這不意味著它給出了真相?！?/p>

哈蒙德同時也是西北大學(xué)（Northwestern University）的教授，他認為，我們必須特別注意用哪些數(shù)據(jù)集來訓(xùn)練這種人工智能模型。他認為，曾經(jīng)有一個“偉大、光榮的時刻”，那時我們相信，互聯(lián)網(wǎng)將傳遞真理，我們也將勢不可擋地走向啟蒙。但我們現(xiàn)在更明白了?；ヂ?lián)網(wǎng)或許仍是一種神奇的資源，但學(xué)術(shù)研究已表明，有說服力的謊言往往遠比確定的真理傳播得快。

“以統(tǒng)計為基礎(chǔ)的整個機器學(xué)習世界如今是從歷史范例和統(tǒng)計數(shù)據(jù)中學(xué)習的。”他表示。“就其本質(zhì)而言，這意味著這樣的學(xué)習將永遠是過去的一種反映。如果過去就是你們想要的未來，那很好。我傾向于認為并非如此，所以我們需要別的東西。而你們選擇關(guān)注的過去的點滴是一種經(jīng)過編輯的取舍?！闭l將成為歷史的編輯者？

哈蒙德懷疑，我們能在多大程度上用音像等多模態(tài)數(shù)據(jù)充實這些語言模型，以實現(xiàn)真正的理解，因為這些語言模型的設(shè)計初衷不在于此。“這就好比我繪制了一座房子的完美3D圖像，可有人說：‘我們沒法把家具放進去。’而我說：‘我們可以進去?！娴膯?？這并不是設(shè)計目的。也永遠不會是。猜測與理解之間是有區(qū)別的?！?/p>

OpenAI表示，他們很清楚這種擔憂，并且已經(jīng)在用人工智能來識別質(zhì)量更高、偏差更小的數(shù)據(jù)?！拔覀円寻l(fā)現(xiàn)的一個結(jié)果是，模型越智能，就越不容易說謊，大家都為此感到高興?！眾W爾特曼表示，“我們不斷發(fā)現(xiàn)的所有這些有趣的突現(xiàn)行為都支持這一理論。隨著人工智能越來越智能（就像人類越來越聰明一樣），判斷力也會越來越強。”

哲學(xué)家們自然地會傾向于關(guān)注感知與意義問題。對于愛丁堡大學(xué)的瓦洛來說，在線交互正成為受到經(jīng)濟激勵因素鼓勵的“意義的空洞表演”：瘋傳的推文，迎合搜索優(yōu)化引擎的廣告?！芭c你們的生活方式或所信奉價值觀的內(nèi)在表達的一致性相比，這種表演的風格成了一種獲得你們想要的回應(yīng)的更可靠方法?！彼f?！癎PT-3沒有什么要表達的。它試圖傳達的東西不存在對這個世界更深層的理解。GPT-3可以是任何人、任何事。它的智能模式并不獨特，這正是它的力量所在。”

她表示，我們最大的擔憂不是GPT-3這樣的機器變得過于人性化，而是人類的行為變得更像GPT-3：我們?yōu)樗惴▌?chuàng)建內(nèi)容，而不是為人類同胞。因此，我們的在線公共話語正在失去意義，因為它被剝奪了語境及個體的洞察力，并被旨在迎合算法的流行語所淹沒。她表示：“人們被期望表現(xiàn)得越來越靈活，并學(xué)著滿足其雇主的任何要求、Twitter的任何要求、或他們所在特定政治過濾氣泡的任何要求。”

奧爾特曼表示，這些擔憂應(yīng)當被更廣泛地討論。他自己對GPT-3的使用（用他的電子郵件和推文訓(xùn)練它），讓他懷疑自己想法的原創(chuàng)性?！拔艺J為，在我們對人工智能進行思考時，幾千年來人們一直在爭論的所有哲學(xué)問題，都通過一種不同的視角重新與我們息息相關(guān)了。創(chuàng)造性意味著什么？擁有自我意識意味著什么？有意識意味著什么？

“對我來說，這些對話一直非常有趣，但從未顯得如此直接相關(guān)。我希望，到GPT-7這樣的未來版本上線時，我們的時間將花在從事和設(shè)想一些人工智能不擅長的事與想法。那將釋放人類的大量潛能，讓我們專注于最有趣、最具創(chuàng)造性、最有生產(chǎn)性的事。”

人工智能領(lǐng)域最近的許多突破都是源于打造競爭性或?qū)剐缘哪Ｐ?，這些模型在象棋、圍棋或《星際爭霸》（Starcraft）等游戲中戰(zhàn)勝了人類。但研究人員現(xiàn)在正將注意力轉(zhuǎn)向構(gòu)建將人工智能模型的最強超人能力與人類直覺結(jié)合起來的混合協(xié)作系統(tǒng)。

瓦洛表示，我們自身的理解并不是一個行為，而是一個過程，對個人來說，是理解這個世界的終生奮斗過程，對千百年來不斷演進的社會來說，是永無止境的集體努力?！皫浊陙?，我們一直試圖更透徹地理解正義，更好地表達美，并尋找更復(fù)雜巧妙的方式活得有趣。這是一個超越技能進入優(yōu)越狀態(tài)的問題，進入我們以前未能企及的創(chuàng)造力與意義的形式。

“這就是為什么人工智能的圣杯不是GPT-3的原因?！彼^續(xù)說道?！叭斯ぶ悄艿氖ケ瓚?yīng)該是這樣一臺機器：它可以開始建立這個世界的堅實模型，這個模型可以隨著時間的推移被打造得越來越強大，并通過與人類的交互得到完善與糾正。這才是我們需要的。”

原文標題：人工智能終于接近人類智能了嗎？

文章出處：【微信公眾號：新機器視覺】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

責任編輯：haq