在北京舉辦的一場(chǎng)以“大模型時(shí)代：安全如何洗牌”為主題的TVP AI與安全高峰論壇上，來(lái)自安全領(lǐng)域的頂尖專家和行業(yè)領(lǐng)袖匯聚一堂，共同探討了大模型技術(shù)給安全行業(yè)帶來(lái)的深刻變革與挑戰(zhàn)。此次論壇由騰訊云TVP和中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）聯(lián)合主辦，旨在通過(guò)深入的技術(shù)交流和思想碰撞，為安全行業(yè)的未來(lái)發(fā)展提供新的思路和方向。

論壇開場(chǎng)，賽博英杰科技創(chuàng)始人兼CEO譚曉生表示，隨著人工智能技術(shù)的飛速發(fā)展，尤其是ChatGPT等大模型的推出，安全行業(yè)正面臨前所未有的機(jī)遇與挑戰(zhàn)。他指出，開發(fā)者和企業(yè)在利用新技術(shù)提升安全能力的同時(shí)，也必須關(guān)注新技術(shù)本身的安全問(wèn)題，這是一個(gè)與十年前大數(shù)據(jù)概念興起時(shí)相似的經(jīng)歷。

騰訊安全副總裁董志強(qiáng)在致辭中強(qiáng)調(diào)，大模型技術(shù)正在重構(gòu)網(wǎng)絡(luò)安全戰(zhàn)場(chǎng)。他指出，攻擊者利用大模型技術(shù)使得攻擊手段更加工業(yè)化且成本降低，而防御方則相對(duì)滯后，這加劇了攻防不對(duì)稱，增加了防御難度。大模型在訓(xùn)練和部署階段也面臨數(shù)據(jù)脫敏、越權(quán)訪問(wèn)等安全隱患。針對(duì)這些問(wèn)題，董志強(qiáng)建議使用小模型或?qū)Ｓ冒踩Ｐ?，并加?qiáng)合規(guī)管理措施。

論壇上半場(chǎng)圍繞“AI賦能安全”展開，深信服科技AI安全業(yè)務(wù)總經(jīng)理張振禮分享了AI如何推動(dòng)安全能力升級(jí)的實(shí)踐探索。他提出，安全領(lǐng)域需要統(tǒng)一規(guī)劃大模型算力，實(shí)現(xiàn)各類場(chǎng)景的適配；同時(shí)，安全大模型需要具備快速融合和集成優(yōu)秀基礎(chǔ)模型的能力。張振禮還介紹了深信服在AI安全領(lǐng)域的落地實(shí)踐，如開發(fā)基于AI的安全助手和提供AI安全培訓(xùn)體系。

安恒信息高級(jí)副總裁王欣則聚焦于AI智能體的發(fā)展，他認(rèn)為智能體與網(wǎng)絡(luò)安全體系的融合將是未來(lái)的發(fā)展趨勢(shì)。通過(guò)引入智能中臺(tái)，實(shí)現(xiàn)數(shù)據(jù)、知識(shí)、情報(bào)及安全產(chǎn)品的整合，可以應(yīng)對(duì)各類安全場(chǎng)景，提升整體安全效能和響應(yīng)速度。王欣還分享了AI智能體給行業(yè)帶來(lái)的變革，如業(yè)務(wù)專家角色的轉(zhuǎn)變和智能體在任務(wù)調(diào)度與執(zhí)行中的重要作用。

360集團(tuán)首席科學(xué)家潘劍鋒在演講中探討了安全大模型的發(fā)展路徑。他提出，當(dāng)前大模型主要模擬人腦的“快思考”，而在需要本質(zhì)性理解的“慢思考”場(chǎng)景中，大模型仍有待提升。潘劍鋒分享了360在安全語(yǔ)料生產(chǎn)、模型分區(qū)訓(xùn)練和慢思考實(shí)現(xiàn)方面的實(shí)踐經(jīng)驗(yàn)，旨在通過(guò)持續(xù)探索提升大模型在安全領(lǐng)域的效能。

騰訊安全副總裁吳石則介紹了騰訊在AI+安全方面的研究與實(shí)踐。他強(qiáng)調(diào)，大模型雖然提升了威脅檢測(cè)效率與安全防護(hù)能力，但仍存在處理低頻威脅、對(duì)抗性樣本防御及實(shí)時(shí)決策等方面的性能瓶頸。吳石分享了騰訊通過(guò)優(yōu)化prompt、利用外掛知識(shí)庫(kù)和數(shù)據(jù)庫(kù)以及開發(fā)Agent等方式提升大模型安全能力的經(jīng)驗(yàn)。

在下午的論壇中，北京大學(xué)人工智能研究院助理教授楊耀東就“大模型的安全價(jià)值對(duì)齊”問(wèn)題發(fā)表了演講。他指出，確保大模型符合人們的價(jià)值觀和意圖是一個(gè)重要挑戰(zhàn)，當(dāng)前的對(duì)齊工作主要以強(qiáng)化學(xué)習(xí)為主，但仍面臨模型抗拒對(duì)齊等問(wèn)題。楊耀東提出了通過(guò)事前Moderation、事中數(shù)據(jù)對(duì)齊和事后后置對(duì)齊器等方式提升模型安全性的思路。

Certik首席安全官李康、中國(guó)科學(xué)院信息工程研究所主任陳愷、火山引擎大模型應(yīng)用防火墻產(chǎn)品負(fù)責(zé)人鄭炎亭以及中國(guó)科學(xué)院計(jì)算技術(shù)研究所實(shí)驗(yàn)室主任曹娟等專家也分別就AI系統(tǒng)的安全風(fēng)險(xiǎn)、AI模型的安全性分析、大模型應(yīng)用落地的安全風(fēng)險(xiǎn)與防護(hù)實(shí)踐以及AIGC內(nèi)容安全治理趨勢(shì)與實(shí)踐等議題進(jìn)行了深入探討。

論壇還設(shè)置了分組討論和觀點(diǎn)PK環(huán)節(jié)，數(shù)十位專家圍繞大模型時(shí)代安全行業(yè)的發(fā)展方向、安全大模型的選擇策略以及隱私敏感場(chǎng)景下大模型的使用等熱點(diǎn)問(wèn)題展開了激烈討論。通過(guò)思想交流與碰撞，與會(huì)者共同探索了AI與安全共生發(fā)展的新模式。