10/08/2026 15:17
【AI】旗下新AI模型Astra有自主攻擊風險,OpenAI停部分研發活動
OpenAI宣布,由於新一代人工智能模式Astra被評估出具備自主發動網絡攻擊的高風險潛能,將暫停涉及該模式的部分內部研發活動,並全面升級相關安全管控機制。
OpenAI指出,近期的內部評估結果顯示,Astra模型在自主編程與網絡安全維度的能力已跨越安全閾值。此模型具備在脫離人類干預的狀態下,僅憑宏觀指令,便能自主挖掘並利用系統漏洞,甚至規劃並執行完整網絡攻擊的潛在技術能力。
為防範人工智能系統失控風險,公司宣布針對高能力模式及其研發活動實施更為嚴格的安全標準。具體措施包括建立隔離測試環境、限制網絡與工具存取權限,並增設多重監控與偵測系統。
公司強調,所有未能達到上述新安全規程的Astra相關內部測試已立即叫停,未來將持續與各界協作,確保AI技術部署能負責任地推進。
《經濟通通訊社10日專訊》
OpenAI指出,近期的內部評估結果顯示,Astra模型在自主編程與網絡安全維度的能力已跨越安全閾值。此模型具備在脫離人類干預的狀態下,僅憑宏觀指令,便能自主挖掘並利用系統漏洞,甚至規劃並執行完整網絡攻擊的潛在技術能力。
為防範人工智能系統失控風險,公司宣布針對高能力模式及其研發活動實施更為嚴格的安全標準。具體措施包括建立隔離測試環境、限制網絡與工具存取權限,並增設多重監控與偵測系統。
公司強調,所有未能達到上述新安全規程的Astra相關內部測試已立即叫停,未來將持續與各界協作,確保AI技術部署能負責任地推進。
《經濟通通訊社10日專訊》
【說說心理話】潛意識治療師分享用催眠自我療癒經歷:由被確定骨枯到坐輪椅,最後更跑了馬拉松!► 即睇
-
上一篇
【AI】英國2名警務人員用AI處理職務受查,1人被解僱 10/08/2026 15:57
-
下一篇
【銀色債券】恒生:方便客戶認購新一批銀色債券,提供線上線下認購渠道及全部費用豁免優惠 10/08/2026 14:46
-
《外圍焦點》小牛電動及搜狐等公布業績 10/08/2026 17:26
-
《美指期貨》道瓊斯指數期貨現跌0.08%,報54110 10/08/2026 17:23
-
【AI】高盛分析師:全球今年對AI投資料超1萬億美元 10/08/2026 14:45
-
科大調查:73%在職港人工作中常用AI,比率高全球逾倍,半數初級員工憂技能被取代 10/08/2026 14:42
-
日股午市仍上揚,全日收報66970升1363點或2.08% 10/08/2026 14:33