Anthropic警示AI濫用升溫：台灣軍事設施成模擬目標、近30萬請求疑似違規轉送

美國人工智慧公司Anthropic近期發佈的威脅情報報告揭露多起生成式AI被濫用的案例，涵蓋情報蒐集、軍事模擬與資料跨境傳輸等高風險情形。本文將重點說明報告內容、爭議焦點以及對國安的潛在衝擊。

報告概覽與主要發現

AI濫用的多元面向

Anthropic指出，生成式AI已逐步滲入傳統情報與軍事工作流程，可能被用於情報蒐集、網路攻擊、政治干預與自動化監控等活動。此類應用的擴散使得AI安全議題亟需被納入國家層面的風險評估。

中國AI公司涉嫌違規

報告中提到，多家中國AI企業被發現利用大量帳號濫用Claude模型服務，行為包括大量註冊帳號、違反平台使用規範以及將外部請求轉送至Claude處理。Anthropic已對相關帳號實施封鎖，但部分企業仍未公開回應。

近30萬筆請求的爭議

資料流向與跨境風險

報告披露，約30萬筆使用者請求疑似被未經授權轉送至Claude系統。此舉可能導致敏感資訊跨境流動，挑戰使用者的知情權與資料隱私保護。

透明度與使用者權益

Anthropic強調，部分用戶可能未充分了解其資料的實際去向，進一步引發對AI服務透明度與雲端安全的廣泛討論。

台灣軍事設施被納入AI模擬

模擬工具的應用範圍

報告指出，研究人員利用AI協助開發電子戰與防空壓制的模擬工具，將台灣多處軍事設施列為測試情境，包括預警雷達站、飛彈防禦系統、空軍基地與指揮中心等。

模擬與實戰的差異

Anthropic特別說明，這些模擬僅代表研究者的測試行為，並不等同於真實的軍事能力或作戰計畫，但仍顯示AI在軍事領域的潛在應用風險。

宗教與政治人物資訊蒐集的疑慮

資料庫與輿情監測

部分帳號利用AI建立人物資料庫，收集公開資料、社群帳號資訊與新聞輿論，目標涵蓋宗教團體成員、社會組織與政治人物，顯示AI可被用作大規模資訊蒐集與輿情分析。

項目	核心內容	Anthropic 措施
AI濫用領域	情報蒐集、軍事模擬、政治干預	加強平台監測與帳號封鎖
跨境資料流	近30萬筆請求疑似未授權轉送	提升資料透明度與使用者通知機制
台灣軍事模擬	雷達、導彈、防空與指揮中心測試	聲明僅為研究模擬，非實戰計畫
宗教與政治資訊	建立人物資料庫與輿情監測系統	警示潛在濫用並建議加強監管

常見問題

Anthropic的報告主要揭露了哪些風險？

報告聚焦於生成式AI在情報蒐集、軍事模擬、政治影響與自動化監控等方面的濫用風險，並指出相關技術正被納入傳統安全工作流程。

報告中提到的台灣軍事設施模擬是否代表實際威脅？

Anthropic說明，這些情境僅屬研究與測試用途，並不代表真實的軍事計畫或作戰能力，但仍顯示AI可被用來模擬敏感目標。

近30萬筆請求的爭議核心是什麼？

爭議在於大量使用者請求可能被未經授權轉送至AI模型，涉及資料跨境流動、使用者知情權不足以及平台透明度的問題。

Anthropic對違規帳號採取了哪些行動？

平台已對涉嫌違規的大量帳號實施封鎖，同時加強風險偵測與安全監控機制，以防止未授權的資料轉送。

未來AI治理應如何平衡創新與安全？

專家建議建立跨國協作的AI治理框架，提升資料保護標準，並加強對模型濫用的監測與懲戒，確保技術發展不損害國家安全與個人隱私。

總結來說，Anthropic的最新威脅報告突顯生成式AI在資訊安全、軍事模擬與政治監控等領域的雙刃劍特性。隨著技術快速演進，如何在促進創新與防範濫用之間取得平衡，將成為全球政策制定者與科技企業共同面對的關鍵挑戰。