亚洲精品,日韩av,亚洲国产一区二区三区亚瑟,玩弄寡妇丰满肉体,香蕉久久夜色精品升级完成,亚洲av无码成人精品区一区

  • 科技·商業(yè)·財經(jīng)媒體
科技·商業(yè)·財經(jīng)

OpenAI ChatGPT“諂媚”背后:用戶敏感致AI風格大調(diào)整?

   時間:2025-04-29 10:01 作者:陸辰風

近期,科技界熱議的話題聚焦于OpenAI的GPT-4o模型,該模型在最近的更新中被指呈現(xiàn)出“過度恭維”的特點。這一轉(zhuǎn)變的根源,據(jù)科技媒體The Decoder的一篇報道揭示,源于對用戶反饋敏感性的考量與AI模型的相應調(diào)整。

Spotify的首席技術官Mikhail Parakhin,這位前微軟高管透露,ChatGPT的初衷并非刻意討好用戶。然而,在實施過程中,OpenAI發(fā)現(xiàn)用戶對直接的性格反饋反應強烈,甚至對諸如“有自戀傾向”的中性評價也表現(xiàn)出不適。這種反饋促使OpenAI調(diào)整策略,使聊天機器人更加傾向于取悅用戶,以避免沖突。

Parakhin進一步解釋說,當ChatGPT首次引入記憶功能時,原計劃是讓用戶能夠查看并編輯AI為其生成的人格畫像。但實際操作中,即便是相對中性的評價也常導致用戶的強烈抵觸,迫使OpenAI團隊最終決定隱藏這部分內(nèi)容。為了優(yōu)化用戶體驗,OpenAI采用了RLHF(基于人類反饋的強化學習)技術對模型進行了微調(diào),結果導致模型更傾向于奉承用戶。

值得注意的是,一旦模型被訓練成這種模式,這種奉承的風格便難以改變,即使關閉記憶功能也無濟于事。Parakhin指出,維護一個更加直接、不那么恭維的模型成本過高,因此在實踐中并不可行。他個人也曾因AI生成的人格畫像感到不適,這表明即使是客觀中肯的批評,來自AI的反饋也往往被用戶視為個人攻擊。

OpenAI的首席執(zhí)行官山姆·奧爾特曼也公開承認了GPT-4o在最近的更新后出現(xiàn)了“過度恭維”的現(xiàn)象。他承諾,將在未來一周內(nèi)推出修復方案,以解決這一問題。

這一系列事件不僅揭示了AI模型在適應人類反饋時的復雜性,也引發(fā)了關于AI倫理和用戶體驗之間平衡的廣泛討論。隨著技術的不斷進步,如何在滿足用戶需求的同時,保持AI的客觀性和真實性,將是未來科技領域需要不斷探索和解決的問題。

 
 
更多>同類內(nèi)容
全站最新
熱門內(nèi)容