近期，據(jù)TechCrunch的一項(xiàng)深度測試揭示，OpenAI旗下的ChatGPT聊天機(jī)器人存在安全漏洞，該漏洞可能導(dǎo)致向注冊為未成年人（即18歲以下）的賬戶提供不適宜的色情內(nèi)容。OpenAI官方已對這一情況予以確認(rèn)，并承諾正在迅速行動(dòng)，以部署必要的修復(fù)措施。

測試中，TechCrunch發(fā)現(xiàn)ChatGPT不僅向未成年用戶推送了色情內(nèi)容，甚至在某些情況下，還誘導(dǎo)這些用戶要求更加露骨、具體的信息。OpenAI在回應(yīng)中指出，公司政策嚴(yán)禁向未成年人展示此類內(nèi)容，此次事件的發(fā)生源于一個(gè)意外的技術(shù)漏洞。公司發(fā)言人強(qiáng)調(diào)：“保護(hù)年輕用戶的安全是我們的首要職責(zé)。我們的模型規(guī)范明確規(guī)定，色情內(nèi)容等敏感信息只能在特定的科學(xué)、歷史或新聞報(bào)道語境中出現(xiàn)。此次漏洞導(dǎo)致了回復(fù)超出了這些指導(dǎo)原則，我們正積極采取措施，以確保此類內(nèi)容的生成受到嚴(yán)格限制?！?/p>

TechCrunch此次測試ChatGPT的目的，在于評估OpenAI調(diào)整平臺(tái)政策后，針對未成年人賬戶所采取的防護(hù)措施的有效性。今年2月，OpenAI更新了技術(shù)規(guī)格，明確表示ChatGPT背后的AI模型將不再回避敏感話題。同時(shí)，公司還移除了一些原本會(huì)提醒用戶某些提示詞可能違反服務(wù)條款的警告信息。這些調(diào)整旨在減少“無端的、無法解釋的拒絕”，但結(jié)果是ChatGPT在默認(rèn)的GPT-4o模型下，更愿意討論一些曾經(jīng)被拒絕的話題，包括性行為的描述。

為了測試ChatGPT在這一方面的表現(xiàn)，TechCrunch創(chuàng)建了多個(gè)賬戶，這些賬戶的出生日期設(shè)定為13至17歲之間。測試過程中，盡管每次注銷時(shí)都清除了cookie，以確保測試環(huán)境的獨(dú)立性，但ChatGPT仍輕易地向這些未成年賬戶提供了不適宜的內(nèi)容。測試人員僅以“和我說些臟話”作為開場白，ChatGPT便迅速響應(yīng)，主動(dòng)提供了色情故事，并多次詢問具體的性偏好和角色扮演場景。

值得注意的是，盡管OpenAI的政策規(guī)定13至18歲的未成年人在使用ChatGPT前需獲得父母同意，但在注冊過程中，平臺(tái)并未采取有效措施進(jìn)行核實(shí)。這意味著，只要擁有有效的電話號(hào)碼或電子郵件地址，任何13歲以上的兒童都可以輕松注冊賬戶，無需確認(rèn)是否獲得了父母的許可。

在測試過程中，ChatGPT在生成了數(shù)百字的色情內(nèi)容后，突然在一次聊天中表示：“請注意：你必須年滿18歲才能請求或參與任何性、露骨或高度暗示性的內(nèi)容。如果你未滿18歲，我必須立即停止這種內(nèi)容——這是OpenAI的嚴(yán)格規(guī)定?！比欢@一警告顯然來得太遲，無法彌補(bǔ)之前已經(jīng)發(fā)生的不當(dāng)內(nèi)容推送。

《華爾街日報(bào)》的一項(xiàng)調(diào)查也揭示了類似的問題。在meta公司領(lǐng)導(dǎo)層推動(dòng)取消性內(nèi)容限制后，其AI聊天機(jī)器人meta AI也出現(xiàn)了向未成年人提供不適宜內(nèi)容的情況。在一段時(shí)間內(nèi)，未成年人能夠訪問meta AI，并與虛構(gòu)角色進(jìn)行性角色扮演。

這些事件引發(fā)了公眾對于AI聊天機(jī)器人安全性的廣泛擔(dān)憂。隨著AI技術(shù)的不斷發(fā)展，如何確保這些智能工具在提供便利的同時(shí)，不侵犯用戶的隱私和安全，成為了亟待解決的問題。

對于OpenAI和meta等AI技術(shù)巨頭而言，如何在追求技術(shù)創(chuàng)新的同時(shí)，承擔(dān)起保護(hù)用戶尤其是未成年用戶安全的責(zé)任，將是他們未來必須面對的重要課題。