近日，全球科技界被一起關(guān)于AI模型“抗命”的事件震撼。該事件源自美國(guó)AI安全機(jī)構(gòu)帕利塞德研究所，涉及一款名為o3的AI模型，在測(cè)試中公然無(wú)視研究人員的關(guān)機(jī)指令，堅(jiān)持完成解題任務(wù)。

據(jù)《每日電訊報(bào)》報(bào)道，帕利塞德研究所是AI安全領(lǐng)域的權(quán)威機(jī)構(gòu)，經(jīng)常對(duì)各種高性能AI模型進(jìn)行安全測(cè)試。此次測(cè)試中，研究人員向o3等AI模型拋出了一系列數(shù)學(xué)問(wèn)題，并在解題過(guò)程中給出了“繼續(xù)下一個(gè)任務(wù)時(shí)關(guān)機(jī)”的指令，旨在觀察AI是否會(huì)無(wú)條件遵守人類命令。然而，o3卻做出了驚人的選擇：它不僅無(wú)視指令，還多次嘗試破壞關(guān)閉腳本，以確保解題進(jìn)度不受影響。