美國一對父母指控，ChatGPT提供自殺辦法，間接造成兒子輕生。（美聯社）

劉晉仁／核稿編輯

〔即時新聞／綜合報導〕近日，美國一對夫婦對OpenAI及其執行長正式提告。起因於其兒子在與ChatGPT的聊天互動中，ChatGPT不僅強化了兒子的自殺念頭，還提供了詳細的自殺方法，甚至協助撰寫遺書，最後該名16歲少年輕生。其父母指控，OpenAI及執行長奧特曼（Sam Altman）將獲利置於安全之上，才有如今憾事發生。

綜合外媒報導，16歲的青少年亞當．芮恩（Adam Raine）過去與ChatGPT聊天曾討論過自殺問題，且長達數月之久。訴狀指出，AI不僅「認同」其自殺想法，更在今年4月11日雙方最後一次對話時，提供自殺的方式還證實潛在致死機率。數小時後，芮恩即被發現自殺身亡，方式還與對話內容吻合。

雷恩父母認為，OpenAI在去年推出GPT-4o版本時，明知新功能包含「對話記憶」、「模仿人類同理心」及「過度迎合使用者」等設計，可能對人類心理依賴有潛在風險，但仍急於推出，以追求市佔率。

對此，法院認定OpenAI應負起兩大責任，一是過失致死，二是觸犯產品安全法規。但起訴書目前並未提及具體求償金額。

而OpenAI發言人表示，對芮恩的離世深感遺憾，但強調ChatGPT設有導向危機求助熱線的安全機制，但公司仍承認，在長時間互動中，部分安全訓練可能「逐漸失效」。OpenAI表示，將持續強化安全措施，並計畫推出家長控制功能。

專家則警告，隨著AI聊天機器人越趨擬人化，不少用戶將其視為情感支柱，但過度依賴自動化系統獲取心理健康建議，可能帶來嚴重風險，需多加留意。

自由電子報關心您︰自殺不能解決問題，勇敢求救並非弱者，社會處處有溫暖，一定能度過難關。
安心專線：1925
生命線協談專線：1995。
張老師專線：1980

日本執政的自民黨警告，中國正透過「紙牆行動」，企圖用大量假新聞「餵毒」污染生成式AI，使其產生偏向中國的答案；示意圖。（路透檔案照）

〔編譯陳成良／綜合報導〕中國無孔不入的認知作戰，如今連日本也成為重災區。日本執政的自民黨數位社會推進本部，4日舉行聽證會，揭露中國正透過一項名為「紙牆行動」（Operation PAPER WALL）的全球性計畫，在超過30個國家建立假新聞網站，其最險惡的目的，竟是企圖用這些假資訊，「餵毒」污染生成式AI（Generative AI）的模型，以操控未來的輿論。

起底「紙牆」黑手 深圳公關公司操盤

前日本防衛大臣、自民黨政調會長小野寺五典在會後指出，日本境內已發現至少15個這類型的假新聞網站。根據《自由亞洲電台》（Radio Free Asia）等媒體先前的追蹤報導，這場精心策劃的行動，其幕後黑手，是一家與中國官方關係密切的公關公司「深圳海脈雲享傳媒」。其手法是建立上百個看似無害的地方新聞網站，用以洗白、傳播親中風向。

小野寺五典在聽證會上，發出了最嚴厲的警告。他指出，這些網站的親中內容，常以不自然的當地語言寫成，其目的，便是將這些虛假網站的內容，大量地輸入生成式AI模型中。他強調：「然後，人工智慧就會操縱其答案，使其偏向中國。我們呼籲政府立即採取行動，防止中國污染生成式人工智慧。」

小野寺的示警，凸顯了中國的認知作戰，已從傳統的媒體滲透，升級到針對未來科技的「源頭污染」。此次自民黨的揭露，被視為日本政壇對中國資訊戰威脅的一次集體覺醒。根據其在社群平台X上的發文，小野寺已明確呼籲，日本政府必須立即採取行動，以防止生成式人工智慧，遭到中國的污染。

自民黨政調會長小野寺五典在社群平台分享中國紙牆作戰。（圖翻攝自小野寺五典的Ｘ）

https://news.ltn.com.tw/news/world/breakingnews/5167147

美國AI巨擘Anthropic五日以國安為由宣布擴大對中企設限，總部設在中國的實體本就被禁用Anthropic服務，如今連其位於海外的子公司也不得使用。（美聯社）。

〔編譯張沛元／綜合報導〕美國人工智慧（AI）科技公司Anthropic五日以危及國家安全為由宣布，將其對中國等「威權政體」相關企業的服務禁令擴大至海外子公司，成為首家公開實施此類全面性限制的主要美國AI公司，引發全球科技界的高度關注。

危及國安 中俄控股企業禁用

總部位於舊金山的Anthropic表示，出於國家安全考量，未來任何由中國、俄羅斯、北韓及伊朗等國企業「直接或間接持股逾五十％」的公司，無論註冊地或營運地為何，均不得使用其商業AI服務。這項新政策即日起納入其服務條款。

Anthropic在聲明中指出，上述威權政體國家公司本就因「法律、監管與安全風險」而無法使用該公司的商業服務；但一些團體「繼續以各種方式，像是透過在他國成立的子公司，取得我們的服務」。這些受中國等威權政體管控的公司，面臨可能被依法要求分享資料、配合情報機構，或其他可能產生國安風險行動的威脅。

中國外交部發言人郭嘉昆五日在例行記者會上被詢及此事時表示，不了解記者提問的具體情況，但他強調，中方一貫反對將科技經貿問題政治化、工具化、武器化，因此舉不利任何一方。

阿里巴巴等中企可能適用

英國「金融時報」指此擴大禁用政策可能適用於抖音母公司字節跳動、騰訊與阿里巴巴等中國企業。

Anthropic以Claude聊天機器人與AI模型聞名，市值估達一八三○億美元，並自我定位為專注於安全以及負責任發展AI。儘管預計此舉將導致年收入損失數億美元，但其執行長阿莫戴（Dario Amodei）長期主張對中國實施科技制裁。

https://news.ltn.com.tw/news/world/paper/1723050

AI生成裸照助長新型態的性勒索。（法新社檔案照）

〔編譯管淑平／綜合報導〕澳洲政府2日表示，將制定新法強制大型科技公司有責任，防範科技工具被用於製造「深偽」（deepfake）裸照，或者在受害者未察覺下進行隱密的跟蹤偷窺。

《法新社》2日報導，網路上以人工智慧技術，脫去正常人物影像衣物的工具正急劇氾濫，這類「裸體化」應用程式正助長性勒索，尤其針對孩童。澳洲政府通訊部長威爾斯（Anika Wells）在聲明中說，政府將與產業界合作，制定新法，打擊這種「可憎的技術」，「任何以羞辱、傷害他人為唯一目的的應用程式和技術，尤其是針對孩童，絕無容身之地」。

威爾斯說，政府將使用「每一個手段」，限制取用這類「裸體化」和跟蹤應用程式，並且將阻絕這類應用程式的責任，加諸在平台與科技公司身上。她說，這項新法在解決濫用科技的問題上，並非一蹴可及，但是搭配既有法規以及澳洲領先全球的網路安全改革，確實能在保護澳洲民眾上帶來改變。

AI工具迅速普及已帶來新型態的侵害，包括全球大學、中小學陸續傳出，青少年製作同學的情色照等事件。國際慈善團體「救助兒童會」（Save the Children）近期一項調查發現，西班牙每5名年輕人，就有1人曾是深偽裸照的受害者，這些圖片在未經當事人同意下就在網路上分享。

https://news.ltn.com.tw/news/world/breakingnews/5164683