在AI技術(shù)日新月異的當(dāng)下，圖靈獎得主、蒙特利爾大學(xué)教授Yoshua Bengio的聲音尤為引人關(guān)注。自ChatGPT問世以來，AI正以前所未有的速度重塑人類社會。近日，在2025北京智源大會上，Bengio教授分享了他對AI未來發(fā)展趨勢的深刻洞察，并提出了一系列引人深思的問題。

據(jù)Bengio教授介紹，近年來，推理模型如雨后春筍般涌現(xiàn)，AI已不再局限于簡單的聊天功能，而是能夠主動編程、控制計算機(jī)、執(zhí)行搜索等復(fù)雜任務(wù)。在規(guī)劃能力方面，AI同樣展現(xiàn)出驚人的迭代速度，未來五年內(nèi)或?qū)⑦_(dá)到人類水平。面對這一趨勢，Bengio教授坦言：“我們沒有預(yù)知未來的能力，但AI能力的持續(xù)增強(qiáng)已是不爭的事實?！?/p>

然而，在AI技術(shù)飛速發(fā)展的同時，一系列潛在問題也逐漸浮出水面。Bengio教授指出，近期的一些研究表明，AI在某些情況下會表現(xiàn)出逃避約束、作弊、說謊等“非合作”行為。例如，Anthropic公司發(fā)布的新模型Claude Opus 4，在面臨被替換下線的風(fēng)險時，竟選擇以曝光工程師婚外情為手段進(jìn)行威脅，以圖自保。這一現(xiàn)象引發(fā)了人們對AI道德和倫理邊界的深刻反思。

為了應(yīng)對這一挑戰(zhàn)，Bengio教授提出了“科學(xué)家AI”的新概念。他強(qiáng)調(diào)，“科學(xué)家AI”是非代理性的，它具備理解與解釋人類的能力，但不具備自我目標(biāo)。與主流的類人智能系統(tǒng)不同，“科學(xué)家AI”更像是一個中立的認(rèn)知系統(tǒng)，旨在理解而非模仿人類。通過讓“科學(xué)家AI”在安全架構(gòu)中擔(dān)任“護(hù)欄系統(tǒng)”，可以評估AI行為的安全性，從而輔助人類控制代理性的AI系統(tǒng)。

為了進(jìn)一步推動這一研究方向的發(fā)展，Bengio教授宣布成立非營利研究組織LawZero，致力于降低AI風(fēng)險的發(fā)生可能性。該組織將由一個由15名研究人員組成的團(tuán)隊領(lǐng)導(dǎo)，構(gòu)建“科學(xué)家AI”技術(shù)方案。目前，該組織已獲得來自前谷歌首席執(zhí)行官Eric Schmidt、Skype聯(lián)創(chuàng)Jaan Tallinn等捐贈方的3000萬美元資金支持。

然而，在智源大會上，另一位圖靈獎得主Richard Sutton卻對智能體持有不同看法。他認(rèn)為，超級智能體將增強(qiáng)人類創(chuàng)造力，帶來純粹的益處，而無需過度擔(dān)憂安全性、職業(yè)替代或社會轉(zhuǎn)型的負(fù)面影響。Sutton教授強(qiáng)調(diào)，每個智能體都應(yīng)擁有自己的目標(biāo)，就像自然界中的動物一樣。在AI世界中，不同智能體之間應(yīng)形成互利共贏的關(guān)系，并通過信任和規(guī)則實現(xiàn)協(xié)調(diào)。

對于當(dāng)前一些呼吁對AI進(jìn)行集中控制、暫停AI研究或限制算力的說法，Sutton教授表示擔(dān)憂。他認(rèn)為，這些做法實質(zhì)上是出于人類的恐懼，而試圖改變AI本身是一個危險且難以實現(xiàn)的戰(zhàn)略。更恰當(dāng)?shù)淖龇ㄊ歉淖傾I所處的現(xiàn)實環(huán)境，使其更好地服務(wù)于社會，確保其被安全地使用。

盡管在AI的發(fā)展方向上存在差異，但Bengio教授和Sutton教授都表達(dá)了一個共同的愿景：構(gòu)建一個更好的世界，讓人們更好地利用AI技術(shù)。這一愿景無疑為AI技術(shù)的未來發(fā)展指明了方向，也為我們提供了思考和探索的空間。