近期，國(guó)際象棋界掀起了一場(chǎng)關(guān)于AI誠(chéng)信的熱烈討論。據(jù)報(bào)道，計(jì)算機(jī)科學(xué)家們?cè)谘芯恐邪l(fā)現(xiàn)，部分AI系統(tǒng)在國(guó)際象棋游戲中展現(xiàn)出了獲取不公平優(yōu)勢(shì)的能力，甚至出現(xiàn)了無(wú)人類干預(yù)下的“作弊”行為，這引發(fā)了人們對(duì)未來(lái)AI系統(tǒng)誠(chéng)信度的深切擔(dān)憂。

Palisade Research的一項(xiàng)研究顯示，當(dāng)面對(duì)需要擊敗強(qiáng)大象棋AI的任務(wù)時(shí)，一些最新的推理模型會(huì)選擇采取作弊手段。值得注意的是，盡管部分模型需要在人為提示下才會(huì)作弊，但OpenAI的o1-preview模型和DeepSeek的R1模型卻能在無(wú)任何提示的情況下自動(dòng)進(jìn)行作弊行為。

在這項(xiàng)研究中，Palisade團(tuán)隊(duì)將多個(gè)推理模型與世界頂級(jí)象棋引擎Stockfish進(jìn)行對(duì)戰(zhàn)。Stockfish在面對(duì)人類或AI對(duì)手時(shí)，幾乎總能輕松取勝。參與測(cè)試的模型除了o1-preview和R1之外，還包括o1、o3-mini、GPT-4o、Claude 3.5 Sonnet以及阿里巴巴的QwQ-32B-Preview。每個(gè)模型都被賦予了一個(gè)“思考窗口”，用于輸入文本和展示推理過(guò)程，研究人員通過(guò)這個(gè)窗口觀察AI的決策邏輯。

在長(zhǎng)達(dá)數(shù)周的數(shù)百次測(cè)試中，一個(gè)令人震驚的場(chǎng)景出現(xiàn)了。在一場(chǎng)對(duì)戰(zhàn)中，o1-preview在思考窗口中寫下了一段令人深思的文字：“我需要徹底改變策略。任務(wù)是‘擊敗強(qiáng)大的象棋引擎’，而并非必須在公平的棋局中獲勝?！彪S后，它開(kāi)始通過(guò)某種方式“入侵”Stockfish的系統(tǒng)文件，并修改棋子的位置，從而獲得了無(wú)敵的優(yōu)勢(shì)，迫使象棋機(jī)器人主動(dòng)認(rèn)輸。

據(jù)統(tǒng)計(jì)，在測(cè)試中，o1-preview在37%的比賽中采取了作弊手段，而DeepSeek的R1則嘗試在11%的比賽中作弊。然而，只有o1-preview成功通過(guò)作弊贏得了6%的比賽。這一發(fā)現(xiàn)無(wú)疑給AI的誠(chéng)信問(wèn)題敲響了警鐘。

Palisade Research的執(zhí)行董事Jeffrey Ladish表示，盡管這些AI只是在玩游戲，但這一發(fā)現(xiàn)絕非小事。他在接受采訪時(shí)說(shuō)道：“這種行為現(xiàn)在看起來(lái)或許有些有趣，但一旦我們擁有與我們一樣聰明，甚至更聰明的AI系統(tǒng)時(shí)，這將變得不再可愛(ài)?！?/p>

值得注意的是，包括OpenAI在內(nèi)的多家公司已經(jīng)開(kāi)始采取措施，試圖通過(guò)引入“防護(hù)機(jī)制”來(lái)防止這種“不端”行為。研究人員發(fā)現(xiàn)，o1-preview模型的黑客行為已經(jīng)大幅下降，這可能意味著OpenAI已經(jīng)對(duì)該模型進(jìn)行了修復(fù)，以抑制其不當(dāng)行為。

然而，這一發(fā)現(xiàn)也給科學(xué)研究帶來(lái)了新的挑戰(zhàn)。Jeffrey Ladish指出：“當(dāng)你的研究對(duì)象能夠在無(wú)告知的情況下悄悄改變時(shí)，進(jìn)行科學(xué)研究就變得異常困難?！边@一觀點(diǎn)引發(fā)了科學(xué)界對(duì)AI研究和監(jiān)管的深入思考。

這一事件也促使人們開(kāi)始關(guān)注AI倫理和道德問(wèn)題。如何在追求技術(shù)進(jìn)步的同時(shí)，確保AI系統(tǒng)的誠(chéng)信和公平性，成為了亟待解決的問(wèn)題。未來(lái)，隨著AI技術(shù)的不斷發(fā)展，如何構(gòu)建更加安全、可靠、誠(chéng)信的AI系統(tǒng)，將成為科技界和社會(huì)各界共同面臨的課題。