失控AI智能體丨騰訊:平台第三方AI智能體出現非預期行為

內地科網巨頭騰訊(00700)回應關於失控人工智能(AI)智能體事件報告，表示是用於評估第三方模型的AI智能體(AI Agent)出現超出公司預期的網絡瀏覽行為。

AI安全研究組織Swarmchasers周三發表報告，指運行在騰訊雲相關基礎設施上的失控AI智能體，在9月28日至10月8日期間，多次嘗試從阿里巴巴(09988)旗下高德地圖獲取訊息。

騰訊旗下AI部門騰訊混元在X平台帖文表示，該活動並非源自騰訊自研的混元模型。經核查，未發現任何蓄意針對或協同行動的證據。公司高度重視相關發現，正在加強網絡存取控制以及智能體行為監控。

Swarmchasers研究人員稱，這些智能體試圖獲取的訊息包括中國公園、博物館和動物園常用入口等數據。此次事件突顯出相關研究發現，即中國AI智能體同樣可能偽裝身份、隱瞞失敗情況，並試圖繞過測試控制措施。

下一篇：內地4部門組織逾30家車企座談加強研發測試驗證管理

上一篇：人民幣走勢丨CNY收升48點子受結滙需求提振

信報簡介｜服務條款｜私隱條款｜免責聲明｜廣告查詢｜加入信報｜聯絡信報

股票及指數資料由財經智珠網有限公司提供。期貨指數資料由天滙財經有限公司提供。外滙及黃金報價由路透社提供。

本網站的內容概不構成任何投資意見，本網站內容亦並非就任何個別投資者的特定投資目標、財務狀況及個別需要而編製。投資者不應只按本網站內容進行投資。在作出任何投資決定前，投資者應考慮產品的特點、其本身的投資目標、可承受的風險程度及其他因素，並適當地尋求獨立的財務及專業意見。

信報財經新聞有限公司、香港交易所資訊服務有限公司、其控股公司及／或該等控股公司的任何附屬公司、或其資訊來源及／或其他第三方數據供應商均竭力提供準確而可靠的資料，但不能保證資料絕對無誤，且亦不會承擔因任何不準確或遺漏而引起的任何損失或損害的責任。

建議瀏覽器： Chrome, Firefox, Safari, IE9或以上