美企微軟軟件工程師謝恩·瓊斯（Shane Jones）于今年2月初指認(rèn)OpenAI的DALL-E 3模型存在漏洞，該模型可產(chǎn)生一系列色情內(nèi)容。瓊斯在公布這一問題后，竟收到微軟的“封口令”威脅。盡管如此，他仍選擇向外披露該漏洞。

瓊斯去年底在進行自主研究時，發(fā)現(xiàn)OpenAI的圖像生成模型DALL-E 3存在一個漏洞，漏洞利用者可以越過AI保護墻來制作色情內(nèi)容。他將此情況報告給微軟和OpenAI，并發(fā)文警示這種攻擊可能給公眾帶來危害，要求他們暫停使用DALL-E 3模型或在修復(fù)漏洞之前先下線。

然而，瓊斯隨后收到了來自微軟法務(wù)部門和管理層的壓力，要求其刪除領(lǐng)英上的相關(guān)文章且禁止對外透露信息。盡管他多次試圖聯(lián)系公司高層，尋求解釋并解決漏洞問題，但都沒得到回應(yīng)。在此期間，漏洞也沒有得到解決，于是，瓊斯決定向媒體和相關(guān)部門公開。

瓊斯亦表示，近期網(wǎng)絡(luò)上廣為傳播的AI生成泰勒·斯威夫特（Taylor Swift）的不雅照片可能與此次漏洞有關(guān)。因為那些圖片是根據(jù)微軟的Designer AI創(chuàng)作出來的，其實質(zhì)是用的DALL-E 3底層架構(gòu)，因此在此事件中，微軟對瓊斯施加“封口令”的行為，無疑是種嚴(yán)重的失策。

對此，微軟發(fā)表聲明回應(yīng)媒體，承認(rèn)問題的存在，并承諾修復(fù)漏洞，解決員工的疑慮。同時強調(diào)，瓊斯所揭示的漏洞，成功率并不高，并且技術(shù)上無法“突破所有針對該模型設(shè)定的安全措施”，至于，“這一漏洞與泰勒·斯威夫特照片的制作是否有關(guān)聯(lián)，則不得而知”。