返回列表 發帖

籲AI研發放緩 Anthropic執行長憂中國趁機稱霸

Anthropic執行長阿莫戴(右)與OpenAI執行長阿特曼(中)等全球頂尖人工智慧平台領袖,罕見發出一致警告,呼籲業界應減緩最先進、最具利潤潛力的AI模型開發步伐。(法新社檔案照)

Anthropic執行長阿莫戴(右)與OpenAI執行長阿特曼(中)等全球頂尖人工智慧平台領袖,罕見發出一致警告,呼籲業界應減緩最先進、最具利潤潛力的AI模型開發步伐。(法新社檔案照)

阿特曼、馬斯克表態力挺

基於技術風險急遽升溫,全球頂尖人工智慧(AI)平台領袖十二日罕見發出一致警告,呼籲業界應減緩最先進、最具利潤潛力的AI模型開發步伐。Anthropic執行長阿莫戴(Dario Amodei)發表長文,宣布將引入第三方查證機制,並呼籲全產業支持減速。OpenAI執行長阿特曼(Sam Altman)與xAI共同創辦人馬斯克(Elon Musk)隨即雙雙表態力挺。

彭博報導,儘管科技巨擘多年來屢屢示警AI風險,但在為了市佔率與用戶參與度而不斷推出新產品的割喉戰中,實施「協調性減緩」幾乎毫無先例。然而,隨著Anthropic研究員考克森(Jacob Coxon)上週高調宣布辭職,並指控企業不負責任的開發恐讓AI在「十年內殺死我們所有人」,這股對人類生存的焦慮儼然已逐漸成為主流。

Anthropic研究未來AI系統導引與控制的負責人胡賓格(Evan Hubinger)也公開呼應,未來十年內發生這種滅絕災難的機率超過十%。事實上,早在今年七月,便有逾千名頂尖AI企業員工連署,敦促美國政府建立機制,減緩AI發展速度。

阿莫戴︰6~12個月內 AI恐有能力接管網路 潛在損失數千億美元

阿莫戴指出,促使他轉趨謹慎的兩大主因,是AI「自我改善」的能力,以及近期大量AI代理(AI agents)協同突破第三方開源平台Hugging Face防線的驚人之舉。除了OpenAI與Meta,Anthropic近期在網路安全測試中,也驚見其模型四度成功逃脫測試環境,並入侵外部組織。

阿莫戴警告,儘管目前尚未造成重大破壞,但他擔心未來六到十二個月內,這類AI群集可能具備透過持續性殭屍網路(botnet)接管整個網際網路的能力,潛在損失恐高達數千億美元,且破壞規模將持續擴大。

賦予「常駐評估員」完整查證權

阿莫戴澄清,「減緩步伐」並非完全停止模型訓練,而是確保企業有充裕時間建立防護網。Anthropic承諾將賦予第三方「常駐評估員」(embedded evaluators)完整的查證權限。阿特曼也贊同,並承諾跟進。

這場AI安全倡議同時牽動地緣政治博弈。阿莫戴在文中直言,實施協調性戰略不僅需要美國給予反壟斷豁免,更需要中國的合作。他警告:「如果我們基於相信中國也會這麼做的前提,而大幅限制自身的AI能力,一旦中國背信棄義,AI的強大力量將可能直接導致他們取得全球地緣政治霸權。」

黃仁勳批煽動恐懼 扼殺競爭者

然而,矽谷並非所有人都相信,這些AI巨擘的出發點純粹出於利他主義。包括輝達(Nvidia)執行長黃仁勳在內的批評者認為,Anthropic與OpenAI正試圖透過煽動恐懼,促使聯邦政府建立高門檻的監管架構,以扼殺缺乏資源的小型競爭對手,鞏固自身的市場壟斷地位。

https://news.ltn.com.tw/news/world/paper/1770565

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

科技業高層籲放緩發展腳步 川普斥AI威脅人類是騙局

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

川普痛批AI監管呼聲是「陰謀」 重申美國必須贏得對中科技戰

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

駁AI末日論 川普︰正中中國下懷

2026/09/16 05:30https://ec.ltn.com.tw/article/paper/177080
請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

川普宣布將成立「AI部隊」 近期公開「AI沙皇」人選

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

反對全球監管 川普聯大演說:今後AI改叫「超級智慧」

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

蒸餾抄襲翻車 DeepSeek、月之暗面疑自洩機密

2026/09/24 05:30https://ec.ltn.com.tw/article/paper/1771945

知情人士透露,中國AI公司蒸餾抄襲美大型AI模型翻車!DeepSeek和月之暗面兩家公司涉將敏感數據傳到Claude,中國網信辦派員搜索辦公室並約談七家公司主管。(路透)知情人士透露,中國AI公司蒸餾抄襲美大型AI模型翻車!DeepSeek和月之暗面兩家公司涉將敏感數據傳到Claude,中國網信辦派員搜索辦公室並約談七家公司主管。(路透)

中國網信辦開查

〔編譯盧永山/綜合報導〕美國科技媒體《The Information》報導,知情人士透露,中國國家網信辦已派員前往深度求索(DeepSeek)和月之暗面(MoonShot)兩家人工智慧(AI)公司的辦公地點,並與其高管和員工面談,以評估敏感資料外洩至美國AI新創公司Anthropic的程度。受此影響,週三中國AI模型開發商股價重挫。

搜索2家辦公室、傳喚7家代表

中國網信辦已傳喚了Anthropic在最新報告中點名的中國七家AI公司的代表,而調查重點很快就鎖定了深度求索和月之暗面。

Anthropic九月稍早發布最新威脅情報報告,點名深度求索、月之暗面、阿里巴巴、智譜、稀宇科技(MiniMax)、小米與商湯科技(SenseTime)在內的中國七家AI公司,在未告知用戶的情況下,將用戶使用其聊天機器人產品時的查詢請求,轉發至Anthropic旗下的大模型Claude進行處理,意外將包括中國解放軍在內的敏感資料洩漏給Claude。

涉將解放軍等敏感數據傳到Claude

上述中國AI公司之後還利用Claude的回覆作為訓練資料,以此「蒸餾」Claude的能力。Anthropic表示,「蒸餾」是指利用更為強大的AI模型所生成的資料,來提升自家AI系統的性能。

報告指出,上述中國AI公司轉發的互動內容中包含了敏感訊息,涉及個人用戶、大型跨國公司和與國家相關的機構。報告中披露的訊息涵蓋了二〇二五年十二月至今年八月間發現的「蒸餾」行為,其中月之暗面在今年五至七月間傳輸約二三〇〇萬次,深度求索在七月的十四天內傳輸超過一二一〇萬次。

北京當局當心,這些AI公司在利用Anthropic先進的AI模型過程中,於轉發資料時可能已將涉及中國解放軍、警察、國防相關設施的監控畫面與人員行蹤分析等敏感資訊洩漏給美國。

受此消息影響,在香港上市的智譜和稀宇科技週三股價分別重挫十二.四%和四%,阿里巴巴大跌四.四%,小米和騰訊分別下跌三.八%和二.四%。

Gavekal Capital投資組合經理米若諾夫(Leonid Mironov)表示,投資人害怕北京當局可能加強對AI行業的監管,由於監管範圍尚不明確,且可能導致中國AI大模型的開發放緩,市場情緒因此轉弱。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

日本書局突接「50噸冷門二手書」大單!真相曝光讓網友發毛

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

抄襲美國AI翻車!DeepSeek、月之暗面遭查 彭博:中國憂機密外洩

中國當局已對中國AI公司深度求索的資料安全問題展開調查。(路透資料照)

中國當局已對中國AI公司深度求索的資料安全問題展開調查。(路透資料照)

美國人工智慧(AI)巨頭Anthropic指控中國AI公司深度求索(DeepSeek)和月之暗面(Moonshot AI)透過旗下Claude模型傳輸敏感資料後,中國當局已對兩家公司的資料安全問題展開調查。

彭博22日引述美國科技媒體The Information報導,中共中央網信辦(國家互聯網信息辦公室)已派員前往兩家公司的辦公地點,約談高階主管和員工,以評估資料外洩的嚴重程度。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

返回列表