想象一下，有一種人工智能（AI）不僅僅遵循你的指令，還能自行決定如何實現(xiàn)你的目標(biāo)。代理型人工智能（Agentic AI）正是如此：這是人工智能的一個新前沿領(lǐng)域，在這個領(lǐng)域中系統(tǒng)可以獨立運行。代理型人工智能有潛力革新諸多行業(yè)。但其高度的自主性伴隨著重大的責(zé)任——以及潛在的倫理困境。確保自主導(dǎo)向系統(tǒng)中的責(zé)任性、公平性和安全性是建立對這些技術(shù)的信任和可靠性的核心所在。

Keeley Crockett是IEEE會員以及《IEEE計算智能新興話題雜志》的前任副主編，下文中他將重點探討什么是代理型人工智能、它正在如何被使用以及在未來幾年可能會如何發(fā)展。

你會如何向沒有技術(shù)背景的人解釋代理型人工智能呢？

代理型人工智能指的是能夠獨立行動以實現(xiàn)目標(biāo)而不需要持續(xù)人類控制的人工智能系統(tǒng)。這些系統(tǒng)能夠基于其程序設(shè)定和所處理的數(shù)據(jù)來做決策、執(zhí)行操作并適應(yīng)各種情況，通常不需要人類輸入。一個目標(biāo)可能包含若干個子目標(biāo)。

關(guān)于這些系統(tǒng)在未來可能的應(yīng)用有幾個例子。想象一下你有一個家庭清潔機器人，你只給它下達(dá)“保持房屋清潔”的指令。然后這個機器人就會在適當(dāng)?shù)臅r候執(zhí)行任務(wù)，比如當(dāng)它判定地板臟了就進(jìn)行吸塵，飯后就去洗碗，以及定時把東西放回原位。這個機器人理解目標(biāo)并且不需要持續(xù)的指令就能自主行動。

另一種情形涉及使用代理型人工智能來運營一個營銷項目。你可能會告知該系統(tǒng)要將銷售額提高20%。然后，一個代理型人工智能系統(tǒng)能夠獨立分析特定時間段內(nèi)的客戶數(shù)據(jù)，以識別趨勢和偏好。接著，該人工智能將分析客戶數(shù)據(jù)，基于這一分析開展?fàn)I銷活動，并且如果發(fā)現(xiàn)活動未達(dá)到預(yù)期效果就進(jìn)行調(diào)整。

代理型人工智能與傳統(tǒng)人工智能模型或自動化系統(tǒng)有何區(qū)別？

傳統(tǒng)人工智能模型遵循通常從數(shù)據(jù)中發(fā)現(xiàn)的預(yù)定義規(guī)則。如果沒有某種形式的重新訓(xùn)練、測試和驗證，這類模型無法自動適應(yīng)意外的變化。而且還需要人類的監(jiān)督和干預(yù)。傳統(tǒng)模型通常是為一項特定任務(wù)而構(gòu)建的，例如分類任務(wù)，即構(gòu)建一個模型來判定一個人是否有可能拖欠貸款還款。

代理型人工智能系統(tǒng)能夠獨立行動以實現(xiàn)特定目標(biāo)，不需要持續(xù)的人類干預(yù)。它們可以從數(shù)據(jù)中學(xué)習(xí)、適應(yīng)新情況并動態(tài)調(diào)整自身的行動。它們的行為是目標(biāo)驅(qū)動的，并且必須弄清楚如何實現(xiàn)主要目標(biāo)和子目標(biāo)，這就要求它們獨立于人類對任務(wù)進(jìn)行優(yōu)先級排序和解決問題。

代理型人工智能有哪些倫理影響？

代理型人工智能的使用引發(fā)了幾個關(guān)鍵問題。在如此復(fù)雜的系統(tǒng)中，如果出現(xiàn)問題，誰來負(fù)責(zé)？需要哪些數(shù)據(jù)和隱私保護措施？當(dāng)代理型人工智能系統(tǒng)要做出具有現(xiàn)實世界影響的“道德”決策時，它應(yīng)該如何應(yīng)對？

這些問題對于傳統(tǒng)人工智能系統(tǒng)也是一樣的。盡管有倫理原則以及現(xiàn)行/新興的立法作為指導(dǎo)，但我們?nèi)栽谂斫獠⑵饰鲞@在實際運作的系統(tǒng)中意味著什么。最大的倫理問題是，人類處于何種位置？

當(dāng)今是否有正在使用的代理型人工智能模型？它們具備何種程度的自主性？

如今，代理型人工智能被應(yīng)用于自動駕駛汽車中，基于對車輛周邊環(huán)境的持續(xù)分析來做出駕駛決策。每一次出行都是一次學(xué)習(xí)體驗。

一些網(wǎng)絡(luò)安全公司使用代理型人工智能通過對網(wǎng)絡(luò)活動的實時分析來檢測組織內(nèi)的威脅并進(jìn)行關(guān)聯(lián)。然后，人工智能會自動自主地對潛在的入侵做出響應(yīng)。

我個人的觀點是，隨著研究的進(jìn)展以及數(shù)據(jù)獲取量的增加，代理型人工智能的應(yīng)用案例將迅速發(fā)展。這些系統(tǒng)的準(zhǔn)確性取決于一個人愿意分享多少個人數(shù)據(jù)。