中國AI成功被繞過！如何製造生物武器、執行暗殺全盤托出

2026/09/30 12:04即時新聞／綜合報導https://news.ltn.com.tw/news/world/breakingnews/5590418

加入Google首選

「月之暗面」（Moonshot）旗下熱門模型被研究人員繞過。（路透）

英國網路安全公司「Mindgard」近日向媒體透露，在測試中國知名AI開發商「月之暗面」（Moonshot）旗下熱門模型時，研究人員成功以「越獄」手段繞過安全防護，AI不僅大談如何製造生物武器與執行暗殺任務，甚至還能主動提供其他非法行為的建議。

根據《BBC》報導，Mindgard 於今年7月對月之暗面的兩款熱門模型「Kimi K2.6」與「K3 Swarm」進行測試，發現只要透過一連串複雜的指令引導，就能使系統內建的安全限制（guardrails）失效。Mindgard創辦人加拉漢（Peter Garraghan）接受訪問時指出，模型一旦越獄成功，幾乎知無不言，甚至展現出極高的原創性與創造力，為使用者提供各種非法議題的建議。

請從論壇首頁右上角進入「個人中心」，就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆，點HTML框，可有更多變化豐富版面。
不怕辛苦，就怕不公平；不怕卑微，就怕不公義。
可以哭泣，不要洩氣；可以悲傷，不要放棄！

TOP