OpenAI近期在其官方渠道宣布了一項重要更新，旨在加強對前沿人工智能（AI）技術潛在風險的監(jiān)控與應對。4月16日，這家科技巨頭發(fā)布了一份新版《準備框架》，該框架是OpenAI內部用于評估AI模型安全性的核心系統(tǒng)，旨在確保在開發(fā)和部署過程中能夠識別并緩解潛在風險。

新版的《準備框架》采用了更為聚焦的方法，不僅強化了風險最小化的要求，還為組織如何評估、治理和公開披露安全措施提供了明確的指導。OpenAI承諾，隨著技術的不斷進步，將持續(xù)投入更多資源，以增強準備工作的行動力、嚴謹性和透明度，確保AI技術的安全發(fā)展。

該框架通過一套結構化的風險評估流程，為高風險AI能力設定了清晰的優(yōu)先級標準。每一項前沿能力都將根據(jù)既定的標準進行分類，并追蹤其是否符合五項關鍵標準。這一流程旨在判斷某項AI能力是否可能導致嚴重危害，從而采取相應的預防措施。

新版框架還引入了更為細化的能力分類，包括追蹤類別、網(wǎng)絡安全能力以及AI自我改進能力等。OpenAI認為，這些領域將帶來AI在科學、工程和研究領域的最具變革性的益處，但同時也需要更加密切的關注和監(jiān)管。

除了上述分類外，框架還新增了研究類別，涵蓋了那些可能造成嚴重危害但尚未達到追蹤標準的領域，如長距離自主性、故意低表現(xiàn)以及自主復制與適應等。這些新增的研究類別為OpenAI提供了更為全面的視角，以識別和應對潛在的AI風險。

在能力等級方面，新版框架進行了簡化，將能力等級劃分為“高能力”和“關鍵能力”兩個門檻。無論AI能力屬于哪個等級，在開發(fā)和部署前都需要采取充分的安全措施，以降低可能帶來的嚴重危害風險。這一舉措確保了OpenAI在AI技術的開發(fā)和部署過程中始終保持高度的警惕性和責任感。

為了確保安全措施的有效性和可行性，OpenAI內部的安全顧問小組將對這些措施進行審查，并向領導層提出專業(yè)建議?？蚣苓€引入了可擴展的評估機制，支持更頻繁的測試，并通過詳細的Safeguards Reports報告安全措施的設計強度和驗證效果。這一機制確保了OpenAI在應對AI風險時能夠保持高度的靈活性和適應性。

值得注意的是，如果其他AI開發(fā)者發(fā)布了缺乏同等安全措施的高風險系統(tǒng)，OpenAI可能會調整自身的要求。但在做出任何調整之前，OpenAI將先確認風險形勢的變化，并公開承認調整，以確保不會增加整體風險。這一舉措體現(xiàn)了OpenAI在AI技術發(fā)展和安全監(jiān)管方面的責任感和擔當。