AI系統(tǒng)的工作原理是什么？它與人類認知的聯(lián)系和區(qū)別有哪些？它如何改變科學(xué)研究的方式？研究人類認知如何幫助研究人員改進AI系統(tǒng)？就這些相關(guān)問題，美國心理學(xué)會（American Psychological Association）就此采訪了普林斯頓大學(xué)心理學(xué)和計算機科學(xué)教授兼計算認知科學(xué)實驗室主任湯姆·格里菲斯（Tom Griffiths），向其提出了10個問題。元戰(zhàn)略梳理訪談紀要重點內(nèi)容，探討人類認知如何幫助我們制造更好的AI系統(tǒng)。

#1人類比AI更擅長什么？AI在哪些方面做得比我們更好？

人類是生物有機體，壽命、大腦的計算量、交流能力都有限，我們必須通過語言才能把大腦里的信息傳遞給另外一個人，而AI系統(tǒng)則沒有這些限制，AI系統(tǒng)可以從海量數(shù)據(jù)中學(xué)習(xí)。我們現(xiàn)在使用的許多AI系統(tǒng)都是在相當于人類一生的數(shù)據(jù)量的基礎(chǔ)上訓(xùn)練出來的。我們可以制造越來越大的計算機，還可以通過并行計算，從而提高這些AI系統(tǒng)可以訪問的計算量。AI系統(tǒng)可以把一個系統(tǒng)學(xué)到的東西直接復(fù)制到另一個系統(tǒng)中，這樣就可以直接傳輸信息，這些差異實際上決定了人類擅長的一些事情和AI系統(tǒng)擅長的一些事情。因此，我們有限的生命意味著我們必須能夠從少量數(shù)據(jù)中學(xué)習(xí)，而這正是AI系統(tǒng)目前并不擅長的。我們的計算資源有限，意味著我們必須善于高效地利用我們的大腦，而這對AI系統(tǒng)來說仍是一項挑戰(zhàn)。我們的交流能力有限，意味著我們需要找到合作的方式，以便能夠集中我們所擁有的數(shù)據(jù)或計算資源，來完成人類無法獨立完成的事情，如創(chuàng)造語言、相互教學(xué)、傳播文化等，所有這些仍然只有人類才能完成。

#2AI系統(tǒng)與人類大腦的工作方式有多相似？又有什么不同？

思考這個問題有兩種視角。一種是，某個AI系統(tǒng)經(jīng)過訓(xùn)練后產(chǎn)生的行為與人類的行為相比有什么不同？另一種是，這個AI系統(tǒng)是如何學(xué)習(xí)的？它是如何從數(shù)據(jù)中學(xué)習(xí)到某一點的？第二個問題比較容易回答，因為這些AI系統(tǒng)需要比人類獲得更多的數(shù)據(jù)，才能達到人類5、6歲時所達到的水平。因此，對于學(xué)習(xí)而言，很顯然，AI系統(tǒng)學(xué)習(xí)語言的方式必須與人類有所不同。至于這些系統(tǒng)是如何工作的，以及它們所做的事情是否與人們大腦中發(fā)生的事情相似，這仍然是人們正在努力解決的問題。有很多學(xué)術(shù)論文都顯示，這些系統(tǒng)中的表征可以預(yù)測人們大腦中正在發(fā)生的事情。還有很多論文在探究這些系統(tǒng)的行為，研究當AI系統(tǒng)受到相同的刺激時，它們是否會做出與人類相同的行為。

#3人類在哪些方面不了解AI系統(tǒng)的工作原理？

我們重點關(guān)注“一致性”問題，即AI系統(tǒng)思考和表征世界的方式與人類相比，有多大的一致性？我們需要做的是進行更多的研究，找出AI系統(tǒng)擅長的事情，并幫助人們了解在哪些情況下可以與這些AI系統(tǒng)進行互動。例如，我們可以要求ChatGPT估算不同事物之間的相似度，如兩種顏色有多相似，音符有多相似，兩種口味有多相似等等。我們發(fā)現(xiàn)ChatGPT對顏色和音符等事物的表征非常準確，與人類思考這些事物的方式非常相似。但它對味道的表征卻與人類的表征大相徑庭。因此，這就告訴我們，如果要向ChatGPT尋求建議，向它尋求關(guān)于服裝搭配的相關(guān)建議可能會不錯，但向它尋求關(guān)于食譜的建議可能會不佳。

#4在開發(fā)AI的過程中，心理學(xué)應(yīng)該扮演什么角色？

現(xiàn)在是什么角色，未來又應(yīng)該是什么角色？

我們可以從兩個方面來思考心理學(xué)和AI之間的關(guān)系，我們可以把它看作是，信息可以從心理學(xué)流向AI，以及從AI流向心理學(xué)這兩個方向。因此，從心理學(xué)到AI，我們可以做的事情之一是使用我們?yōu)槔斫馊祟愋袨槎_發(fā)的工具包，來真正理解這些AI系統(tǒng)到底在做什么，它們知道什么，以及它們與人類所做事情的對應(yīng)程度。心理學(xué)家們擅長利用正在做各種復(fù)雜事情的AI系統(tǒng)，并利用它們的行為、設(shè)計實驗，以揭示人類大腦中可能發(fā)生的事情，計算機電路中可能發(fā)生的事情，從而告訴我們這些AI系統(tǒng)的工作原理。從另一個方面來看，從AI到心理學(xué)，我們可以從AI系統(tǒng)使用的模型中獲得各種關(guān)于人類思維如何運作的有趣假設(shè)，以及探索人類行為。我們還能獲得新的工具，用來以不同的方式進行科學(xué)研究。因此，可以利用這些AI系統(tǒng)來設(shè)計新的實驗，或建立比心理學(xué)家自己建立的模型或理論更好的模型。

#5你的研究工作是建立人類認知的數(shù)學(xué)模型，如何用數(shù)學(xué)術(shù)語描述人類思維？

我的研究工作會重點關(guān)注，人類思維需要解決哪些計算問題？這就意味著，當你早上起床時，你要為一天的生活做出一系列決定，這就是一種計算問題，也是一種決策問題。你必須確定做事情的先后順序，這就是計算機科學(xué)家所說的“規(guī)劃”問題。因此，我們要做的就是處理這些計算問題，然后思考什么才是解決這些問題的好方法。數(shù)學(xué)告訴我們，解決這些問題的理想方法是什么，然后再利用這些數(shù)學(xué)知識，嘗試去理解人類的行為。我們是否可以通過解決“規(guī)劃”問題的數(shù)學(xué)方法來解釋人們所使用的規(guī)劃策略。人們學(xué)習(xí)概念的方式是否與統(tǒng)計學(xué)中關(guān)于如何利用數(shù)據(jù)更新信念的數(shù)學(xué)知識一致？我們可以借鑒一套數(shù)學(xué)原理，用來回溯和理解人類行為到底是怎么回事。

#6鑒于AI系統(tǒng)能夠綜合大量數(shù)據(jù)，它如何改變科學(xué)研究的方式？

隨著數(shù)據(jù)量的增加，特別是在心理學(xué)領(lǐng)域，我們所掌握的有關(guān)人類行為的數(shù)據(jù)量也在增加，有可能會超出人類所能思考的范圍。因此，這就為我們創(chuàng)造了一個機會，利用AI系統(tǒng)來增強人類處理這些數(shù)據(jù)的能力，從而提出新的方法來理解這些數(shù)據(jù)，發(fā)展出新的有意義的科學(xué)理論。為此，我們的實驗室已經(jīng)開始探索如何在心理學(xué)研究中使用這些方法，可以通過建立一個機器學(xué)習(xí)模型，并使其與數(shù)據(jù)相匹配，讓機器學(xué)習(xí)模型從行為數(shù)據(jù)中做出最好的預(yù)測。然后，我們可以將機器學(xué)習(xí)模型的預(yù)測結(jié)果與人類科學(xué)家開發(fā)的理論預(yù)測結(jié)果進行比較。實際上，我們可以利用機器學(xué)習(xí)模型的輸出結(jié)果，回過頭來批判我們的心理學(xué)理論，并提出更好的理論。因此，我們把這稱為“科學(xué)遺憾最小化”，這就是一種策略。我們還可以做的另一件事是，使用機器學(xué)習(xí)模型來幫助我們搜索理論空間。因此，我們可以定義一套理論，并通過機器學(xué)習(xí)模型在這些理論的空間內(nèi)進行搜索，以提出能解釋數(shù)據(jù)的最佳理論，這樣一來，我們就有了一個工具，可以用來處理比以前大得多的數(shù)據(jù)集。

#7計算機思維如何幫助我們解決問題？

計算機科學(xué)家對這個問題進行了廣泛的研究，它被稱為“探索-利用”權(quán)衡，即通過探索新事物，還是利用已掌握的知識來解決問題。事實上，只要有一個已知的最佳解決方案，就可以不用考慮和擔(dān)心到底需要做什么。因此，對于那些花很多時間思考決策的人來說，知道自己可以遵循最佳策略會讓他們稍感輕松。另一個好消息是，人類的直覺在解決這些問題方面都十分擅長，因此，即使沒有遵循最優(yōu)策略，我們也可能在做一些非常明智的事情，通過研究人類所做的這些明智的事情，我們可以找出更好的算法，并讓計算機解決這類問題。

#8我們能夠制造出具有自我意識的AI系統(tǒng)嗎？

事實上我并不經(jīng)常思考這個問題，因為我不確定這對我們處理這些AI系統(tǒng)的方式、我們與它們的互動或我們思考問題的方式有什么不同。所以我們不應(yīng)該期望AI系統(tǒng)像人一樣，原因是人類認知的約束條件與AI設(shè)計環(huán)境的約束條件是不同的，人類是一個智能特例，我們的壽命、計算量和溝通都十分有限。因此，將這些限制條件去掉之后就會得到能夠解決問題的智能系統(tǒng)，但它們解決問題的方式不一定像人類。當AlphaGo誕生時，這個能在圍棋比賽中擊敗世界上最優(yōu)秀人類棋手的AI系統(tǒng)，能比人類規(guī)劃得更遠，它能規(guī)劃出未來的很多很多步。而人類只能在有限的時間或范圍內(nèi)進行規(guī)劃，所以我們會做一些事情，比如設(shè)定目標和子目標，以及分層思考和分解問題，這都是因為我們認知中的這些限制。而如果消除了這種限制，就可以通過制定更多規(guī)劃來解決問題，這就是AI系統(tǒng)所處的世界。它們能夠為我們試圖解決的問題找到不同的解決方案，因為它們不是在相同的約束條件下運行的。因此，很多我們認為是智能特征的東西，其實是人類大腦必須解決的計算問題的特征。我們與AI系統(tǒng)是不同類型的智能系統(tǒng)，我們必須建立自己新的內(nèi)部認知模型，以了解這些AI系統(tǒng)是什么樣的，以及與它們之間的互動是什么樣的，而不能指望它們像人類一樣。

#9AI系統(tǒng)在未來幾年將如何改變我們的生活？

現(xiàn)在有很多關(guān)于AI搶走工作、也許會毀滅世界的悲觀言論，這非常合理。例如，AI系統(tǒng)代表了什么人，AI系統(tǒng)訓(xùn)練的數(shù)據(jù)集代表了什么人，以及AI系統(tǒng)對我們社會的權(quán)力產(chǎn)生了什么后果等等都是令人擔(dān)憂的問題。與此同時，我們應(yīng)該樂觀地看待這類AI系統(tǒng)可能帶來的積極影響。例如，自從AlphaGo問世以來，我與合作者們一直在分析圍棋比賽，在這項工作中，我們實際上發(fā)現(xiàn)，人類圍棋選手的創(chuàng)造力是通過他們所走棋步的新穎性來衡量的，而AI系統(tǒng)的出現(xiàn)使得他們的創(chuàng)造力得到了提高。因此，我們期待能夠找到一種方法，與這些AI系統(tǒng)互動，與它們共存，并將它們?nèi)谌胛覀兊纳?，以此讓我們實現(xiàn)更多的成就。

#10你現(xiàn)在研究的重點是什么，想要回答的主要問題是什么？

我們關(guān)注的很多問題很多都是關(guān)于人類特有的智力方面的問題。因此，我們做了大量工作，試圖了解人類如何能夠從少量數(shù)據(jù)中學(xué)習(xí)，并將這些能力應(yīng)用到機器中。我們研究人們是如何高效地決定如何使用自己的認知資源的？同樣，這也為我們解決規(guī)劃等問題的算法提供參考。此外，人類是如何通過相互影響來實現(xiàn)超越個體能力的目標的？這一點對于我們?nèi)谌肴祟愂澜绶浅Ｖ匾?，這些互動不僅僅包括人類之間的互動，還包括與其他類型的智能系統(tǒng)間的互動，我們的研究試圖理解如何能夠構(gòu)建這些互動，以及在與AI系統(tǒng)共同邁向未來的過程中，人類如何能夠充分利用我們的AI合作伙伴。