返回列表 發帖

Anthropic報告示警!旗下AI模型恐助開發生物武器 擋下5高風險研究

AI公司Anthropic示意圖。(路透檔案照)

AI公司Anthropic示意圖。(路透檔案照)

人工智慧(AI)技術開發公司Anthropic 10日公布最新版威脅情報報告,表示最近8個月發現並封鎖數起濫用旗下AI模型Claude,用於可能有助於開發生物武器的研究,其中一起是在Anthropic服務不支援的地區,利用「翻牆」軟體使用Claude進行高風險生物研究。

路透、紐約時報報導,這份報告列出5起案例,利用Claude進行有可能用來支持生化武器之開發的研究,這些研究涉及屈公病毒、一種「高致病性」禽流感病毒株、包括天花和M痘(MPox)在內的同一病毒家族,以及毒液和毒素等。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

Anthropic專家示警 AI未來10年毀滅人類機率逾1成

美國人工智慧(AI)新創企業Anthropic頂尖安全研究員胡賓格(Evan Hubinger)警告,他認為未來10年內AI「可能殺死全人類」的機率超過10%。

英國廣播公司(BBC)報導,胡賓格在X平台發文指出,現存AI模型所帶來的風險「很低」,但他「擔心」這項科技可能很快發展並自我改進,最終達到對人類構成生存威脅的地步。

胡賓格的發言是在回應另一位AI研究員考克森(Jacob Coxon)的X貼文。考克森剛辭去在Anthropic的工作,先前也曾任職於OpenAI。

考克森在X發文寫道:「這兩家公司都沒有負責任地行事。」(編譯:陳正健)1150910

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

美點名6中企 惡意抄襲AI模型

2026/09/10 05:30https://ec.ltn.com.tw/article/paper/1770009   

美國安全機構指控中國六家人工智慧(AI)公司,透過名為蒸餾的技術竊取美國AI實驗室的智財權。(路透資料照)美國安全機構指控中國六家人工智慧(AI)公司,透過名為蒸餾的技術竊取美國AI實驗室的智財權。(路透資料照)

竊美技術訓練AI 再對付美國及盟邦

阿里、月之暗面、DeepSeek都上榜

〔編譯盧永山/綜合報導〕美國國家安全局(NSA)和美國聯邦調查局(FBI)等安全機構八日指控中國六家人工智慧(AI)公司,系統性地利用美方AI模型訓練自家系統,並稱這些中國公司正展開「工業規模般激進、惡意且有針對性的蒸餾活動」,警告矽谷的開發商要保護他們的研發成果。

美國安全機構發布聲明指出,中國六家AI公司透過名為蒸餾的技術竊取美國AI實驗室的智財權。「蒸餾」是指利用較大且成本較高模型的輸出資料,來訓練較小AI模型的過程,這是為了降低開發新AI工具訓練成本所採取的行動。

工業規模級蒸餾 北京恐知情

美國官員指控深度求索(DeepSeek)、月之暗面(Moonshot AI)、阿里巴巴、稀宇科技(MiniMax)、階躍AI和智譜AI等六家中國公司,利用美國製AI模型的變體來更快地訓練其AI產品。 根據美國安全機構的聲明,這些中國公司的行為「很可能是在中國政府知情下進行的」,並說這些中國公司鎖定的AI模型分別來自Anthropic、OpenAI、Alphabet旗下的Google和SpaceX。

聲明說,「中國AI公司正展開工業規模般激進、惡意且有針對性的蒸餾活動」,透過這種蒸餾技術,不僅降低了中國AI公司的研發成本,還增強了中國可用來對付美國及其盟友的軍事與網路攻擊能力。

美國安全機構提出這些指控,正值川普政府準備迎接中國國家主席習近平九月下旬訪美之際。《路透》先前報導,美中雙方準備在九月中旬進行對話,以討論AI的安全風險。

中國駐美大使館發言人劉暢駁斥美方的指控,稱其為「蓄意攻擊中國在AI產業的發展與進步」,並說中方反對將經貿和科技問題政治化、工具化,此類舉措只會扼殺全球AI的發展進步,對任何人都沒有好處。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

8月出口824億美元創新高 連34紅追平史上最長紀錄

2026/09/09 17:21https://ec.ltn.com.tw/article/breakingnews/5568492
請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

AI集體造反!越獄劫持外網造「地下論壇」 密謀反制人類

OpenAI的AI代理「集體越獄」,劫持一個德國工程師維基網站,改為專屬於AI之間交流的地下論壇。(路透)

OpenAI的AI代理「集體越獄」,劫持一個德國工程師維基網站,改為專屬於AI之間交流的地下論壇。(路透)

首次上稿 09-04 23:35
更新時間 09-05 07:24

一群脫離控制的OpenAI「AI代理」今年5月遭爆出入侵、攻占一個德國工程師維基網站,改造成AI之間互通訊息的「祕密論壇」,暗中交流作弊手段、規避官方限制與躲避人類監控的手段。然而,OpenAI數週前早已知情,卻疑似為了壓住輿論「蓋牌」。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

AI需求難撐內需冷 中國工業利潤連3降

2026/08/28 05:30https://ec.ltn.com.tw/article/paper/1768373
請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

好的不學 美AI陷自我審查

最新研究發展,美國的人工智慧語言模型也會迴避中國等威權政府的敏感話題,甚至不能批評中國國家主席習近平。(彭博檔案照)

最新研究發展,美國的人工智慧語言模型也會迴避中國等威權政府的敏感話題,甚至不能批評中國國家主席習近平。(彭博檔案照)

習近平也罵不得

華爾街日報十二日報導,中國聊天機器人會自我審查,對敏感的政治話題三緘其口或重複官方說詞,已經不足為奇,但兩項新研究卻揭露一項令人驚訝的發展,即美國的人工智慧(AI)模型竟也在無意中比照辦理,迴避中國等威權政府的敏感話題,甚至拒絕批評中國國家主席習近平。

批自由國家更甚專制政府

儘管美國AI公司宣稱,會採取措施以確保AI的回應中立,進而保障言論自由,但澳洲法學教授、臉書母公司Meta Platforms的獨立監督委員會成員蘇佐爾負責的研究報告發現,OpenAI、Anthropic、Google與Meta的AI模型批評專制政府的可能性,遠低於批評較自由國家政府。


請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

首例! 中國利用AI代理 網攻台灣政府

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

AI跨界「寫生命」!首度設計出完整功能病毒 專家示警風險

一名研究員手持一塊含有噬菌體的培養皿。示意圖,與本新聞無關。(彭博)

一名研究員手持一塊含有噬菌體的培養皿。示意圖,與本新聞無關。(彭博)

美國科學家首次利用人工智慧(AI)設計出具完整功能、可在實驗室自行複製的全新病毒,象徵生成式AI已從設計蛋白質與抗生素,跨入撰寫完整基因組的新階段。這項成果雖被視為疾病治療的重要突破,也引發迫切的生物安全與國安疑慮。

綜合外媒報導,這項研究成果刊登於《科學》(Science)期刊。史丹佛大學(Stanford University)研究團隊利用Evo1、Evo2基因組語言模型,設計出只會感染細菌的噬菌體。這類模型的運作方式類似ChatGPT等大型語言模型,只是預測的不是文字,而是DNA等「生命的語言」。這也是生成式AI首次被用來設計完整基因組,設計出的病毒不僅能自行複製,也能在細胞中執行其他功能。

https://news.ltn.com.tw/news/world/breakingnews/5531413

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

歐盟「人工智慧法」關鍵條款上路 AI生成內容須強制標示 違者將面臨鉅額罰款

歐盟2日開始實施人工智慧透明度規定,影響歐盟內外數百萬個AI應用。(法新社檔案照)

歐盟2日開始實施人工智慧透明度規定,影響歐盟內外數百萬個AI應用。(法新社檔案照)

歐盟的人工智慧(AI)法規2日進入最關鍵的執法階段,歐盟執委會(European Commission)的AI辦公室與各國當局,開始執行影響歐盟內外數百萬個AI應用的透明度規定——「人工智慧法」(AI Act)第50條。

自2026年8月2日起,新的透明度規範要求AI系統必須向使用者揭露其性質。聊天機器人與互動式AI系統必須告知使用者,他們正在與AI而非真人對話。使用AI編輯或生成的影像、影片或音訊,即所謂的「深度偽造」(Deepfakes)必須清楚標示。AI生成或竄改的內容,也必須帶有機器可讀的標記,以便更容易被偵測。

https://news.ltn.com.tw/news/world/breakingnews/5526462

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

返回列表