據(jù)昨日消息，全球領(lǐng)先的人工智能研究機(jī)構(gòu)OpenAI于當(dāng)?shù)貢r(shí)間本周二發(fā)布博客稱，已正式成立一支名為“集體對(duì)齊”的新團(tuán)隊(duì)。新團(tuán)隊(duì)集結(jié)了一批經(jīng)驗(yàn)豐富的研究員及工程師，現(xiàn)正致力于策劃并實(shí)行群眾觀點(diǎn)采集環(huán)節(jié)，幫助調(diào)整及規(guī)范其人工智能模型行為，以期化解可能出現(xiàn)的偏頗及相關(guān)挑戰(zhàn)。

OpenAI在博客中分享說(shuō)：“我們的終極愿景是構(gòu)建一套能收集并轉(zhuǎn)化公眾對(duì)于我們模型行為的認(rèn)識(shí)的體系，以期把這些重要且細(xì)致入微的建議融入我們今后的產(chǎn)品和服務(wù)中，使我們的人工智能模型更趨向于與人類道德觀相符?！?/p>

為此，OpenAI積極尋找具備各種技術(shù)資質(zhì)的研究工程師加入新團(tuán)隊(duì)。他們期望與外部咨詢公司加強(qiáng)協(xié)作，甚至開始進(jìn)行創(chuàng)新試驗(yàn)，將最初版本引入我們的模型中。他們迫切需要各界專才，攜手邁出這一步。

“集體對(duì)齊”團(tuán)隊(duì)實(shí)際上為OpenAI于去年五月份開啟的公共項(xiàng)目的延續(xù)。這個(gè)項(xiàng)目致力于資助研發(fā)“民主程序”的實(shí)驗(yàn)，以確立人工智能系統(tǒng)應(yīng)遵守的規(guī)則。OpenIA曾經(jīng)明確表態(tài)，該項(xiàng)目是為了支持個(gè)人、團(tuán)隊(duì)以及組織研發(fā)概念驗(yàn)證，并在概念明確后回答關(guān)于人工智能監(jiān)測(cè)與治理方面的問(wèn)題。

OpenAI研究工程師、新團(tuán)隊(duì)創(chuàng)始人之一泰納·埃倫杜（Tyna Eloundou）強(qiáng)調(diào)：“隨著我們走向超級(jí)智能模型，這類模型必將逐步成為社會(huì)生活不可缺少的一環(huán)。因此，讓公眾有機(jī)會(huì)發(fā)表意見至關(guān)重要。”

舉例來(lái)說(shuō)，為確保僅由人類參與投票并給予評(píng)價(jià)，OpenAI正考慮與Worldcoin展開合作。Worldcoin是OpenAI首席執(zhí)行官薩姆 · 阿爾特曼（Sam Altman）親自操刀的加密貨幣項(xiàng)目，具備識(shí)別人類和人工智能機(jī)器人的獨(dú)特功能。

自2022年末推出ChatGPT以來(lái)，OpenAI憑借生成性人工智能技術(shù)取得眾多公眾的關(guān)注。運(yùn)用這種技術(shù)，簡(jiǎn)單暗示即可生成大量文字內(nèi)容，使得ChatGPT成為有史以來(lái)增長(zhǎng)速度最為迅猛的應(yīng)用程序之一。

然而，人工智能技術(shù)催人不及掩耳的進(jìn)步亦引起深深憂慮。尤其是其制造虛假圖像及誤導(dǎo)性信息的能力，令2024年美國(guó)總統(tǒng)選舉臨近之際，公眾擔(dān)心不已。多位評(píng)論家指出，如ChatGPT等人工智能系統(tǒng)因接受的數(shù)據(jù)成分所限而自帶偏見，用戶已多次發(fā)現(xiàn)某些人工智能軟件輸出顯示出明顯的種族主義或性別歧視傾向。

本次博客更新中，OpenAI還詳盡總結(jié)了支援對(duì)象的工作成果，其中包含視頻對(duì)話界面、人工智能模型眾包審計(jì)平臺(tái)以及“如何將信仰映射至可用于精細(xì)調(diào)整模型行為的因素”的方法。除此之外，他們也公開了所有援助對(duì)象在工作中所采納的代碼以及每個(gè)項(xiàng)目方案的精華摘要。

盡管 OpenAI 試圖將該項(xiàng)目描述為與其商業(yè)利益無(wú)關(guān)，但考慮到其首席執(zhí)行官阿爾特曼對(duì)歐盟人工智能監(jiān)管的批評(píng)態(tài)度，這一說(shuō)法似乎有些難以令人信服。阿爾特曼以及 OpenAI 總裁格雷格?布羅克曼（Greg Brockman）和首席科學(xué)家伊利亞?蘇茨凱弗（Ilya Sutskever）一再?gòu)?qiáng)調(diào)，人工智能的創(chuàng)新速度非?？?，以至于我們無(wú)法指望現(xiàn)有的權(quán)威機(jī)構(gòu)能夠充分控制這項(xiàng)技術(shù)。因此，他們提出了將這項(xiàng)工作眾包的解決方案。