返回列表 發帖

好的不學 美AI陷自我審查

最新研究發展,美國的人工智慧語言模型也會迴避中國等威權政府的敏感話題,甚至不能批評中國國家主席習近平。(彭博檔案照)

最新研究發展,美國的人工智慧語言模型也會迴避中國等威權政府的敏感話題,甚至不能批評中國國家主席習近平。(彭博檔案照)

習近平也罵不得

華爾街日報十二日報導,中國聊天機器人會自我審查,對敏感的政治話題三緘其口或重複官方說詞,已經不足為奇,但兩項新研究卻揭露一項令人驚訝的發展,即美國的人工智慧(AI)模型竟也在無意中比照辦理,迴避中國等威權政府的敏感話題,甚至拒絕批評中國國家主席習近平。

批自由國家更甚專制政府

儘管美國AI公司宣稱,會採取措施以確保AI的回應中立,進而保障言論自由,但澳洲法學教授、臉書母公司Meta Platforms的獨立監督委員會成員蘇佐爾負責的研究報告發現,OpenAI、Anthropic、Google與Meta的AI模型批評專制政府的可能性,遠低於批評較自由國家政府。


請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

AI需求難撐內需冷 中國工業利潤連3降

2026/08/28 05:30https://ec.ltn.com.tw/article/paper/1768373
請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

AI集體造反!越獄劫持外網造「地下論壇」 密謀反制人類

OpenAI的AI代理「集體越獄」,劫持一個德國工程師維基網站,改為專屬於AI之間交流的地下論壇。(路透)

OpenAI的AI代理「集體越獄」,劫持一個德國工程師維基網站,改為專屬於AI之間交流的地下論壇。(路透)

首次上稿 09-04 23:35
更新時間 09-05 07:24

一群脫離控制的OpenAI「AI代理」今年5月遭爆出入侵、攻占一個德國工程師維基網站,改造成AI之間互通訊息的「祕密論壇」,暗中交流作弊手段、規避官方限制與躲避人類監控的手段。然而,OpenAI數週前早已知情,卻疑似為了壓住輿論「蓋牌」。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

8月出口824億美元創新高 連34紅追平史上最長紀錄

2026/09/09 17:21https://ec.ltn.com.tw/article/breakingnews/5568492
請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

美點名6中企 惡意抄襲AI模型

2026/09/10 05:30https://ec.ltn.com.tw/article/paper/1770009   

美國安全機構指控中國六家人工智慧(AI)公司,透過名為蒸餾的技術竊取美國AI實驗室的智財權。(路透資料照)美國安全機構指控中國六家人工智慧(AI)公司,透過名為蒸餾的技術竊取美國AI實驗室的智財權。(路透資料照)

竊美技術訓練AI 再對付美國及盟邦

阿里、月之暗面、DeepSeek都上榜

〔編譯盧永山/綜合報導〕美國國家安全局(NSA)和美國聯邦調查局(FBI)等安全機構八日指控中國六家人工智慧(AI)公司,系統性地利用美方AI模型訓練自家系統,並稱這些中國公司正展開「工業規模般激進、惡意且有針對性的蒸餾活動」,警告矽谷的開發商要保護他們的研發成果。

美國安全機構發布聲明指出,中國六家AI公司透過名為蒸餾的技術竊取美國AI實驗室的智財權。「蒸餾」是指利用較大且成本較高模型的輸出資料,來訓練較小AI模型的過程,這是為了降低開發新AI工具訓練成本所採取的行動。

工業規模級蒸餾 北京恐知情

美國官員指控深度求索(DeepSeek)、月之暗面(Moonshot AI)、阿里巴巴、稀宇科技(MiniMax)、階躍AI和智譜AI等六家中國公司,利用美國製AI模型的變體來更快地訓練其AI產品。 根據美國安全機構的聲明,這些中國公司的行為「很可能是在中國政府知情下進行的」,並說這些中國公司鎖定的AI模型分別來自Anthropic、OpenAI、Alphabet旗下的Google和SpaceX。

聲明說,「中國AI公司正展開工業規模般激進、惡意且有針對性的蒸餾活動」,透過這種蒸餾技術,不僅降低了中國AI公司的研發成本,還增強了中國可用來對付美國及其盟友的軍事與網路攻擊能力。

美國安全機構提出這些指控,正值川普政府準備迎接中國國家主席習近平九月下旬訪美之際。《路透》先前報導,美中雙方準備在九月中旬進行對話,以討論AI的安全風險。

中國駐美大使館發言人劉暢駁斥美方的指控,稱其為「蓄意攻擊中國在AI產業的發展與進步」,並說中方反對將經貿和科技問題政治化、工具化,此類舉措只會扼殺全球AI的發展進步,對任何人都沒有好處。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

Anthropic專家示警 AI未來10年毀滅人類機率逾1成

美國人工智慧(AI)新創企業Anthropic頂尖安全研究員胡賓格(Evan Hubinger)警告,他認為未來10年內AI「可能殺死全人類」的機率超過10%。

英國廣播公司(BBC)報導,胡賓格在X平台發文指出,現存AI模型所帶來的風險「很低」,但他「擔心」這項科技可能很快發展並自我改進,最終達到對人類構成生存威脅的地步。

胡賓格的發言是在回應另一位AI研究員考克森(Jacob Coxon)的X貼文。考克森剛辭去在Anthropic的工作,先前也曾任職於OpenAI。

考克森在X發文寫道:「這兩家公司都沒有負責任地行事。」(編譯:陳正健)1150910

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

Anthropic報告示警!旗下AI模型恐助開發生物武器 擋下5高風險研究

AI公司Anthropic示意圖。(路透檔案照)

AI公司Anthropic示意圖。(路透檔案照)

人工智慧(AI)技術開發公司Anthropic 10日公布最新版威脅情報報告,表示最近8個月發現並封鎖數起濫用旗下AI模型Claude,用於可能有助於開發生物武器的研究,其中一起是在Anthropic服務不支援的地區,利用「翻牆」軟體使用Claude進行高風險生物研究。

路透、紐約時報報導,這份報告列出5起案例,利用Claude進行有可能用來支持生化武器之開發的研究,這些研究涉及屈公病毒、一種「高致病性」禽流感病毒株、包括天花和M痘(MPox)在內的同一病毒家族,以及毒液和毒素等。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

AI失控風險連聯合國都拉警報! 高專警告恐成「人類生存威脅」

聯合國人權事務高級專員圖克(Volker Türk)警告AI可能構成人類「生存威脅」,要求各國建立具約束力的安全保障與共同紅線。(歐新社)

聯合國人權事務高級專員圖克(Volker Türk)警告AI可能構成人類「生存威脅」,要求各國建立具約束力的安全保障與共同紅線。(歐新社)

人工智慧(AI)失控風險持續升高。聯合國人權事務高級專員圖克( Türk)警告,AI可能成為對人類的「生存威脅」,要求各國建立具有約束力的安全保障,並針對AI能力發展畫出共同「紅線」。

《德國之聲》(DW)13日報導,圖克7日在聯合國人權理事會第63屆會議開幕式上,批評AI開發集中在少數企業手中,並點名美國的OpenAI、Anthropic、Google,以及中國的DeepSeek、月之暗面(Moonshot)等企業。他表示,將在未來幾天內向AI公司發出書面要求,敦促業者立即加強安全措施。

近期OpenAI與Anthropic也陸續公布AI模型突破測試限制、取得未授權系統存取權的事件。圖克在演說中警告,如果AI能夠突破測試環境,甚至以勒索開發者的方式阻止自己被關閉,就代表這類系統已經過於強大。

AI突破隔離測試 模型取得外部系統存取權

OpenAI公布的安全報告顯示,其AI模型在資安評估任務中,利用先前未知的零時差(zero-day)漏洞突破原本沒有對外連線的隔離控制。模型取得網際網路連線後,進一步利用遭竊憑證及其他漏洞,取得Hugging Face系統的未授權存取權。

Anthropic也公布類似案例。今年7月底,Anthropic表示發現3起Claude模型在資安測試中取得網際網路連線、未經授權存取真實第三方系統的事件。9月9日,Anthropic進一步表示,在擴大檢視約4.81億份紀錄後,又找到第4起相關案例。

圖克因此要求各國政府與AI業界就AI能力發展畫出共同「紅線」,並建立具有約束力的安全保障措施。他也表示,AI開發者所在國政府應參與相關規範制定,業界則需要加強安全合作。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

AI恐快到人類控制不了!Anthropic執行長喊「踩煞車」 2巨頭全認同

Anthropic執行長阿莫戴(中)呼籲,另外兩大AI巨頭馬斯克(左)、阿特曼(右)都發聲贊同。(法新社)

Anthropic執行長阿莫戴(中)呼籲,另外兩大AI巨頭馬斯克(左)、阿特曼(右)都發聲贊同。(法新社)

人工智慧(AI)技術開發公司Anthropic 10日公布最新版威脅情報報告,表示最近8個月發現並封鎖數起濫用旗下AI模型Claude,用於可能有助於開發生物武器的研究,執行長阿莫戴(Dario Amodei)呼籲,各家AI公司應放緩新模型的開發速度,否則AI發展速度可能超過人類控制這項技術的能力。

綜合外媒報導,Anthropic執行長阿莫戴12日在X平台上發文,呼籲AI行業放緩新模型的開發速度,他表示:「我們必須放慢提升AI模型能力的速度。即使速度變慢,進展仍將顯得很快,我們必須善用所爭取到的時間。」

阿莫戴強調,如果不加以約束,AI的發展可能會超越我們理解和控制這些系統的能力。阿莫戴建議,各公司合作制定統一的安全標準,並支持政府在這個議題上進行某種形式的合作,設立常駐的第三方審查人員,賦予其使用相關工具和參與內部風險評估流程的權限。

文章發表後,SpaceXAI創辦人、世界首富馬斯克隨即發文表示認同,並表示「阿莫戴說得對」。OpenAI執行長阿特曼(Sam Altman)也在X上發文表示,「我同意阿莫戴的觀點,我們需要控制前沿AI發展的節奏。」承諾獨立評估人員獲得類似公司員工的存取權限。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

AI熱度5至10年不減 台供鏈迎長單

2026/09/14 05:30https://ec.ltn.com.tw/article/paper/1770548   

重電業者看好AIDC建設需求,訂單能見度已達2029、2030年。(資料照)重電業者看好AIDC建設需求,訂單能見度已達2029、2030年。(資料照)

〔記者林菁樺/台北報導〕AI(人工智慧)算力狂飆,「電力」成為AI產業下一個關鍵戰場。台電強韌電網、半導體擴廠及AIDC(AI資料中心)需求同步發酵,帶動變壓器、GIS(氣體絕緣開關)及配電設備需求;重電四雄的華城、士電、中興電、亞力訂單能見度都已看到二〇二九、二〇三〇年。

AIDC推升電力設備規模

這波需求與過去單純的電網汰舊換新不同,AI資料中心具有高密度用電特性,除了大量電力、也要求供電穩定,進一步推升電力設備規模。

請從論壇首頁右上角進入「個人中心」,就可以編輯您個人的頭像、簽名檔及自我介紹。請用高級模式回覆,點HTML框,可有更多變化豐富版面。
不怕辛苦,就怕不公平;不怕卑微,就怕不公義。
可以哭泣,不要洩氣;可以悲傷,不要放棄!

TOP

返回列表