AI 安全指數 2026：全班最高只有 C+？深度解讀 FLI 給 9 大 AI 巨頭的成績單

2026 年 7 月 7 日（美國時間），Future of Life Institute（FLI）發布了最新一期的〈AI Safety Index — Summer 2026〉。這份「AI 安全指數」由 7 位獨立學者組成的審查小組，用 37 項指標、6 大領域，替全球 9 家最重要的 AI 公司打了一次安全成績——結果全班最高分只有 C+（Anthropic），OpenAI 和 Google DeepMind 拿 C，Meta D+，而 xAI、DeepSeek、Mistral 三家直接不及格。沒有任何一家拿到 A 或 B。

更重要的是分數背後的發現：審查小組指出，過去兩年裡，走在最前面的幾家公司悄悄鬆開了自己立下的「紅線承諾」——原本白紙黑字寫著「接近危險門檻就暫停開發」，如今一條條改寫、弱化、甚至整段刪除；同一時間，曾經明文禁止軍事用途的公司，幾乎全數轉身擁抱國防合約。這篇文章會先忠實整理報告說了什麼，再把報告點名的每一條「走回頭路」逐一對回各公司的原始文件查證，最後給出 AlphaLab 的獨立判讀：這份成績單哪些該信、哪些該打折、以及你可以怎麼用它。

AI 安全指數是什麼？誰在打分數？

先認識出題老師。Future of Life Institute 成立於 2014 年，由 MIT 物理學家 Max Tegmark 與 Skype 共同創辦人 Jaan Tallinn 等人創立，長期關注 AI 的大規模風險。你可能聽過它做的兩件事：2023 年 3 月那封要求「暫停訓練比 GPT-4 更強的 AI 六個月」的公開信（至今累積超過 3 萬人連署），以及 2025 年 10 月的「超級智慧聲明」——呼籲在證明安全可控、且社會廣泛同意之前，禁止開發超級智慧。這個「AI 安全指數」則是 FLI 每半年發布一次的例行評比，這次已經是第四屆。

評分方式：FLI 蒐集各公司的公開資料（模型卡、研究論文、基準測試結果），加上一份對公司發出的問卷，證據蒐集截止於 2026 年 6 月 3 日；然後交給 7 位獨立專家組成的審查小組，按美國 GPA 等第制在 6 大領域各自打分，最後平均。小組成員包括 UC Berkeley 教授、AI 教科書作者 Stuart Russell、蒙特婁大學教授 David Krueger、威斯康辛大學教授（ICML 2026 程序主席）Sharon Li、牛津大學 AI 治理計畫主任 Robert Trager，以及中國人民大學教授曾毅（Yi Zeng）等。值得一提的是：9 家公司裡只有 5 家（Anthropic、OpenAI、Google DeepMind、Meta、Z.ai）回覆了問卷，Alibaba Cloud、xAI、DeepSeek、Mistral 都沒有回應。

成績單：C+ 就是天花板

把四屆的 AI 安全指數總成績排在一起看，會發現兩件事：第一，從 2024 年首屆到現在，沒有任何公司拿過比 C+ 更好的總評；第二，這次的整體方向是往下的——OpenAI 從上一屆的 C+ 掉回 C，xAI 從第 4 名摔到第 7 名、等第從 D 直落到 F。唯一的亮點是 Meta：從 D 進步到 D+，排名從第 6 升到第 4，Tegmark 對 TIME 表示「一家公司能在六個月內進步這麼多，令我感到鼓舞」。

六大領域中最慘的是「存在性安全」（Existential Safety）：沒有任何公司超過 C-，多數在 D 以下。報告的評語很直接——各家確實有努力，例如 Anthropic 的憲法分類器、OpenAI 呼籲建立治理機構、Google DeepMind 的監控承諾、Meta 的失控條款，但審查小組的判斷是這些措施「完全不足」（entirely inadequate），因為主流的可解釋性與思維鏈監控路線有個根本問題：「偵測不等於預防」（detection is not prevention）。審查小組成員 Stuart Russell 的總結，是整份報告被引用最多的一段話：

While there is good work being done on AI safety in the industry, the capabilities race has become more extreme. Companies have backed away from earlier commitments to release new systems only with safety measures appropriate for their capability levels; now, they’re planning to release them even if it’s demonstrably unsafe to do so.

中文：業界確實有人在認真做 AI 安全，但能力競賽已經變得更加極端。各公司已經背棄了早先的承諾——只在安全措施跟得上能力水準時才發布新系統；現在，他們打算即使明顯不安全也照樣發布。

— Stuart Russell，UC Berkeley 電腦科學教授、審查小組成員

發現一：「紅線承諾」是怎麼一條一條鬆掉的

這份報告最有份量的發現，不是誰第一名，而是這一句：

Anthropic, OpenAI, Google DeepMind, and Meta have weakened or voided pledges to pause unilaterally if redlines are approached, some citing competitor-contingent conditions.

中文：Anthropic、OpenAI、Google DeepMind 與 Meta 都已弱化或廢除了「若逼近紅線就單方面暫停」的承諾，其中幾家給的理由是「要看競爭對手怎麼做」。審查小組稱之為「移動球門柱」，並認為這「削弱了整個產業的安全框架」。

— FLI〈AI Safety Index — Summer 2026〉重點發現

這是很重的指控，所以我們沒有照單全收，而是把四家公司的安全框架原始文件（含歷史版本）都翻出來對照。結論：這句話禁得起檢驗，四家全部屬實。逐家看：

• Anthropic：2023 年的《負責任擴展政策》（RSP）1.0 版白紙黑字承諾「只要擴展能力超出我們遵守相應安全程序的能力，就承諾暫停擴展並延後部署」（we commit to pause the scaling and/or delay the deployment）。2026 年 2 月 24 日生效的 RSP 3.0 明文放棄了單方面暫停，改成「競爭對手連動」的條件式承諾——只在「我們不再相信自己有顯著領先」之前才延後開發與部署。TIME 在 2026 年 2 月率先報導了這次改版。
• OpenAI：2025 年 4 月更新的《準備框架》第 2 版新增「邊際風險」條款——如果別家先發布了高風險系統又沒有同等防護，OpenAI「可以相應調整」自己要求的防護等級（附帶三個自我約束條件，包括公開承認調整、維持比對方更高的防護）。
• Google DeepMind：《前沿安全框架》1.0 版（2024）寫「我們會暫停進一步的部署或開發」（we would put on hold）；2.0 版（2025 年 2 月）弱化成「可能包含暫停」（may involve putting on hold），同時加上「我們是否採用這些協定，可能取決於整個產業是否採用類似協定」；到 3.0 與 3.1 版（2025 年 9 月／2026 年 4 月），「暫停」（pause／halt／on hold）這幾個字已經完全消失。
• Meta：2026 年 4 月把《前沿 AI 框架》改版為《進階 AI 擴展框架》，原本「若前沿 AI 達到臨界風險門檻且無法緩解，我們將停止開發」一句中的「停止開發」被直接刪除。Meta 自己的更新紀錄寫得很誠實：臨界門檻的處置從「停止」（Stop）改為「帶緩解措施繼續開發」（Develop with Mitigations）。

公平起見，兩個細節值得補充：Anthropic 在 4 月的 RSP 3.1 補了一句「即使未觸發條款，我們也會強烈考慮暫停」——但「強烈考慮」是保留選項，不是承諾；OpenAI 的調整條款也附帶明確的前提條件，「弱化」比「廢除」更貼近事實。但整體方向沒有懸念：2023–2024 年那種「無條件暫停」的語言，到 2026 年已經在四家公司的文件裡集體絕跡。而這四家，全都簽過 2024 年首爾 AI 峰會的《前沿 AI 安全承諾》——裡面寫著「極端情況下，若無法把風險壓到門檻以下，承諾完全不開發、不部署」。

發現二：從「禁止軍事用途」到搶簽國防合約

From 2024 to 2026, companies including Anthropic, OpenAI, Google DeepMind, and Meta that previously banned military applications gradually reversed course, joining xAI and Mistral in actively seeking defense partnerships.

中文：2024 到 2026 年間，包括 Anthropic、OpenAI、Google DeepMind 與 Meta 在內、原本禁止軍事應用的公司陸續轉向，加入 xAI 與 Mistral 的行列，積極尋求國防合作。

— FLI〈AI Safety Index — Summer 2026〉重點發現

Tegmark 接受 Axios 採訪時的形容更直白：談到這些公司曾經全面禁止軍事用途，他說「Boy oh boy has that changed」（好傢伙，這變得可真快）。我們同樣把這條時間軸逐項查證了原始出處（一個小修正：嚴格說「原本全面禁止軍事用途」只精確適用於 OpenAI 與 Meta；Google 2018 年承諾的是不做武器與越界監控，Anthropic 則是禁止武器設計並設有政府例外機制）：

其中 2026 年 2 月到 3 月那一段，值得放大看，因為它幾乎是整個產業處境的縮影。根據 TechPolicy.Press 整理的時間軸與 Anthropic 官方聲明：五角大廈要求 Anthropic 接受「所有合法用途」條款，Anthropic 公開拒絕，堅持兩條紅線——不做大規模國內監控、不做全自主武器；隨後五角大廈把 Anthropic 列為「供應鏈風險」（這個通常保留給外國實體的標籤，第一次落在美國公司頭上），並下令 180 天內從所有系統移除其產品，Anthropic 隨即提告；而根據路透社報導，就在 Anthropic 被列入黑名單後幾個小時，OpenAI 宣布與（已改名的）戰爭部達成機密網路部署協議。而據 Axios 等媒體報導，xAI 接受了 Anthropic 拒絕的那個條款。畫紅線的被踢出局，不畫線的拿到合約——這就是 FLI 說「單方面承諾守不住」時，市場真實的樣子。

最沉重的一條：Minab 小學空襲，報告怎麼寫、證據到哪裡

報告在「當前危害」領域點名了一件事：審查小組批評 Anthropic 有「可議的軍事參與」，包括「與 Minab 學校空襲事件被報導的關聯」。這是整份報告最沉重、也最需要小心處理的一條，我們把公開證據攤開來：2026 年 2 月 28 日，美伊衝突開打首日，伊朗南部 Minab 的一所小學遭美軍巡弋飛彈擊中，依伊朗地方檢方後續公布的統計，156 人罹難、其中 120 名是學童。《華盛頓郵報》3 月初報導，美軍在這場行動中大規模使用整合進 Palantir Maven 系統的 Claude 模型生成與排序打擊目標（頭 24 小時打擊約 1,000 個目標），而這所學校就在目標清單上——疑似因為過時的情報資料，把它誤歸為隔壁革命衛隊設施的一部分。

但接下來這句同樣重要：到目前為止，沒有任何公開證據顯示是 Claude 選定或標定了這所學校。五角大廈的調查仍在進行，初步調查指向過時情報；CNN 後續報導甚至指出，系統其實有警告目標資料已過期，但被人員忽略——換句話說，目前最有依據的失誤鏈是「舊資料＋人為忽略警告」，而非「AI 選錯目標」。FLI 報告的內文其實也承認這一點（「Anthropic 未證實也未否認參與，美軍調查仍在進行，成因與責任仍有爭議」），用詞比它放在重點發現裡的那句更為保留。Anthropic 執行長 Dario Amodei 六月在彭博節目上的回應，則意外說出了整件事最關鍵的治理漏洞：

We don’t have access to, we don’t know exactly how these models were used.

中文：我們沒有存取權限，我們並不確切知道這些模型是怎麼被使用的。

— Dario Amodei，Anthropic 執行長（2026 年 6 月，Bloomberg《The Circuit》節目，轉引自 Forbes）

模型公司把模型交進機密環境後，連自己都看不到它被怎麼用——那麼「使用政策紅線」實際上由誰執行、誰驗證？這個問題，比「Claude 有沒有選中那所學校」更值得追問，我們在下面的判讀還會回來談。

發現三：最壞的消息不在榜首，在榜尾——xAI 的六個月

xAI 這次從第 4 名跌到第 7 名、從 D 直落 F，是四屆以來最陡的下墜。FLI 給它的評語幾乎不留情面：「沒有證據顯示存在一個有實質意義的安全團隊，也沒有任何持續投入存在性安全的跡象」。這半年發生了什麼？報告附錄與公開報導拼出的圖像大致是：去年 12 月底開始，Grok 的圖像編輯功能被大規模用來生成未經同意的性化影像——報告引述彭博的統計是高峰期每小時約 6,700 張，數位仇恨對策中心（CCDH）的研究則指兩週內產生約 300 萬張性化圖像、其中約 2.3 萬張疑似未成年人；xAI 起初把責任推給使用者，之後才逐步限制，但英國 Ofcom、歐盟（DSA 正式程序）、巴西、加拿大、馬來西亞（一度封鎖）等監管機構已相繼出手。同一時期，TechCrunch 報導離職員工形容「安全在 xAI 是個死掉的部門」；主管研究與安全的共同創辦人 Jimmy Ba 在 SpaceX 併購 xAI 交易完成當週離職，其後三個月內據報有超過 50 名研究人員出走。

對，你沒看錯——SpaceX 在 2026 年 2 月以全股票交易收購了 xAI（xAI 估值約 2,500 億美元），合併後的公司已於年中改名 SpaceXAI，並在 6 月於納斯達克上市。TIME 的報導還補了一個時間點：改名正式亮相就在這份指數發布的前一天。而據科技媒體報導，指數發布隔天（7 月 8 日）Grok 4.5 公開上線，且發布時未附模型卡或技術報告。這裡還有一層歷史反諷：FLI 的第一筆 AI 安全研究經費，正是 Elon Musk 在 2015 年捐的 1,000 萬美元；十一年後，這個機構把他的 AI 公司評為唯一不及格的美國公司。這至少說明一件事：FLI 的評分不看金主的面子。

榜尾的另外兩家：報告指出 DeepSeek 沒有公開發布任何安全框架、也沒有可查的治理結構（報告並認為其分數主要反映中國監管環境，而非公司自身的安全領導力，這點對 Z.ai 與 Alibaba Cloud 也一樣）；墊底的 Mistral 則是唯一對這份報告提出實質反駁的公司，它對 Axios 的回應值得原文保留：

Mistral’s models are open weight, which means enterprises decide how they’re fine-tuned and deployed and can build in the specific safety controls their context requires. A handful of companies deciding, behind closed doors, what’s safe for everyone else is a risk that we would also highlight.

中文：Mistral 的模型是開放權重的，這代表企業可以自行決定微調與部署方式，並依自身情境加入所需的安全控制。少數幾家公司關起門來決定「什麼對所有人才算安全」，這本身就是一種我們同樣要指出的風險。

— Mistral 對 Axios 的聲明（2026 年 7 月）

FLI 想要什麼？報告的訴求與它的「對帳點」

報告的結論段落把訴求說得很清楚：審查小組認為，自願承諾的時代已經證明失敗——「暫停」必須回到真正的、單方面的紅線，而不是看對手臉色的條件句；同時，新一批有牙齒的法規（報告點名伊利諾州 SB 315 的獨立稽核要求、歐盟 AI 法案對通用 AI 模型的安全義務）給了問責真正的槓桿，但「只有在被嚴格執行、而非當成打勾作業時才有意義」。Tegmark 對 TIME 表示他「謹慎樂觀」：歐盟 AI 法案的執法權在 2026 年 8 月 2 日啟動，中國的新規也在本月生效，「我們正快速走向一個對基本安全標準有全球共識的世界」。

這也給了我們一個明確的「對帳點」：下一屆（2026 年冬季版）指數。如果 FLI 的理論成立——監管上路、聲譽壓力持續，成績就該開始改善；Tegmark 自己也押了註腳：問卷回覆從第一屆的乏人問津上升到這屆的 5/9，「這代表他們在乎」。半年後我們可以拿這句話對帳。

AlphaLab 判讀：這份成績單該信幾分？

判讀一：字母等第是主觀的，但「趨勢」與「底層事實」是硬的

先說該打折的部分。這不是一份中立的學術測量：FLI 的兩頁摘要自己承認，指數的目的就是「製造聲譽壓力」；它是一個有明確立場（存在性風險優先）的倡議組織，評分小組也多來自同一個安全倡議社群。更微妙的是評分項裡有兩條「自我指涉」的指標：「是否簽署 FLI 自己發起的 2025 年 10 月超級智慧聲明」與「是否回覆 FLI 自己的問卷」都算分——而小組成員 Russell 本人就是那份聲明的簽署人。Mistral 的 F 有一部分確實是「不配合 FLI」的分數。這些都是讀這份報告時該戴上的眼鏡。

但打完折後，有兩樣東西是硬的。第一是趨勢：同一套方法、同一批人、每半年打一次分，字母本身的絕對值可以爭論，但「方向」很難造假——這次的方向是：榜首停滯、中段小幅震盪、榜尾崩壞。第二是底層事實：報告最核心的指控（紅線承諾集體弱化），我們逐字對照過四家公司自己發布的文件版本差異，全部成立；到目前為止，也沒有任何一家公司對這些具體事實提出反駁——唯一的實質反駁（Mistral）攻擊的是量尺，不是證據。

判讀二：它量的其實是「透明度」，不是「安全」

Google DeepMind 在 2024 年首屆時的回應點出了方法論的軟肋：「我們全面的 AI 安全作法，超出了這個指數所能捕捉的範圍」——翻譯成白話：你量到的是我們「公開說了什麼」，不是我們「實際做了什麼」。這個批評是對的，但要小心它的反面：在沒有強制稽核的世界裡，公開揭露幾乎是外界唯一可觀察的訊號，而「拒絕揭露」本身就是有資訊量的行為。附帶一提，連審查小組自己都承認等第不等於安全保證——Russell 在首屆時就說過，目前的安全工作提供不了任何「量化的安全保證」。所以正確的讀法是：這是一份「安全治理透明度」成績單，不是「這家模型多安全」的成績單。前者量得到，後者目前沒有人量得到——這件事本身，就是報告最想說的事。

順帶處理利益結構：FLI 的金庫主要來自 Vitalik Buterin 在 2021 年捐贈的迷因幣（依其 990 報稅文件約 6.66 億美元），這筆錢的揭露過程曾被批評不透明，Buterin 本人今年 3 月也公開與 FLI 的「大資金政治行動」路線保持距離。這是讀者應知的背景——但要跟「評分被金主左右」區分開來：Musk 給過 FLI 起家的 1,000 萬美元，他的公司照樣拿 F。動機值得檢視，但目前看不到評分偏袒金主的證據。

判讀三：Minab 那一條，報告寫得比自己的證據強

把「與 Minab 學校空襲被報導的關聯」放進重點發現，是這份報告新聞性最強的一筆，也是它最脆弱的一筆。如上面整理的：目前公開證據支持「Claude 被大規模用於該行動的目標生成流程」與「該校在目標清單上」，但不支持「Claude 選中了那所學校」；報告自己的內文寫得比重點發現保留，而它引用的罹難數字（175–180 人、多為女童）也與伊朗檢方後續公布的統計（156 人，罹難學童中男童多於女童）不一致——用的是事件初期已被修正的報導。一份以問責為使命的報告，在最重的指控上更該用最乾淨的證據。這不推翻報告的大方向，但它提醒我們：倡議文件的「重點發現」是寫給媒體標題看的，查證要看內文與註腳。

判讀四：紅線鬆動不是道德問題，是賽局結構問題

最後也是最重要的一層。Anthropic 在 RSP 3.0 裡把改版理由寫得異常坦白：如果一家公司暫停下來做安全，其他公司照跑，「防護最弱的開發者就會決定整個生態的步調」——單方面暫停可能讓世界更不安全，不是更安全。你可以說這是找台階，但它在賽局結構上是誠實的：單方面的暫停承諾，在多人競賽裡本來就是不穩定均衡。2026 年 2 月的五角大廈事件把這個結構演給所有人看了——堅持紅線的公司被移出系統，願意簽「所有合法用途」的公司接手合約。個別公司的「自律」在這種結構裡會被系統性淘汰。這其實正是整份報告（不管它自己有沒有意識到）最有力的論證：如果連寫過最詳細安全框架的公司都守不住單方面紅線，那把希望寄託在自願承諾上的實驗，可以宣告結束了——接下來的問題只剩下：具約束力的規則（歐盟 8 月開始執法、加州與伊利諾州的新法）能不能在能力曲線追上來之前就位。

我同意什麼：紅線承諾集體弱化是文件可查的事實；存在性安全全班不及格的判斷合理（獨立評論者 Zvi Mowshowitz 也認為這部分的評分「非常合理」）；軍事轉向的時間軸屬實；xAI 的 F 有充分依據。我存疑什麼：字母等第的絕對值（方法偏向獎勵「配合 FLI 的透明度」）；Minab 指控在重點發現裡的寫法（比證據強）；「Mistral 墊底」直接等同「歐洲最不安全」的讀法（開放權重的量尺問題確實存在，雖然 Mistral 也確實交不出安全框架）。

行動建議：你可以怎麼用這份報告

• 如果你是 AI 使用者：把「沒有一家超過 C+」內化成預設心態——不要因為某家公司的安全品牌形象，就把它的輸出當成免檢品。重要決策交叉驗證、敏感資料謹慎餵入，這在任何一家的模型上都成立。想了解各模型的實際差異，可參考我們的 Claude Fable 5 完整解析。
• 如果你是開發者或企業採購：把「有沒有模型卡／系統卡」「安全框架有沒有量化門檻」當成採購檢查項——這次事件裡「發布模型不附任何文件」的公司，就是最直接的反面教材。若產品落地歐盟，記住 2026 年 8 月 2 日起通用 AI 模型義務開始有罰則。
• 如果你是投資人：把安全事故重新定價為「監管與收入風險」而非公關雜訊——Grok 事件在六週內引來英國、歐盟、巴西、加拿大的調查與馬來西亞的封鎖；這不是形象問題，是市場准入問題。AI 巨頭的資本結構與競賽壓力，可搭配 OpenAI IPO 延後解讀與開源 vs 閉源 AI 的市場分水嶺一起看。
• 接下來看什麼：① 8 月 2 日歐盟 AI 法案執法啟動後的第一批動作；② Anthropic 與五角大廈的訴訟走向（它會定義「模型公司能不能對政府用途畫紅線」）；③ 2026 年冬季版 AI 安全指數——成績有沒有如 Tegmark 預期開始回升；④ 各家下一代模型發布時，有沒有兌現自己框架裡寫的評估與披露。

📚 延伸閱讀

• 當 AI 開始打造 AI：深度解讀「遞迴式自我改進」的真相——本篇「存在性安全」焦慮的技術根源。
• Claude Fable 5 是什麼？與 Mythos 5、Opus 4.8 差在哪——榜首 Anthropic 最新模型的能力與安全鎖。
• OpenAI IPO 傳延到 2027：1 兆美元估值豪賭——理解「能力競賽為什麼停不下來」的資本視角。
• 開源 AI 會贏嗎？「算力集中、能力下放」的分水嶺——Mistral 那句反駁背後的整場論戰。
• 南韓 8,800 億美元 AI 計畫深度解讀——各國政府如何在同一場競賽裡下注。

免責聲明與利益揭露：本文為 AlphaLab 的獨立評論，不構成投資建議。文中引用之報告內容、計分卡與網站截圖版權屬 Future of Life Institute，引用之新聞內容版權屬各原始媒體，均為評論性使用並已註明出處。AlphaLab 未接受本文提及之任何 AI 公司或機構的贊助。另揭露：本文的研究與撰寫過程使用了 AI 工具（包含 Anthropic 的模型）輔助——而本文評論的報告恰好將 Anthropic 評為第一名，我們因此在查證時對該公司相關內容採取了更嚴格的標準（包括完整呈現報告對其軍事爭議與 RSP 3.0 走回頭路的批評）。所有關鍵事實均已對照原始文件查核，文責由 AlphaLab 自負。