“`html

OpenAI 模型安全準備度：風險評估與治理策略探討

OpenAI 在人工智慧模型的快速發展中，正積極強化其安全準備工作。近期，OpenAI 宣布招募「準備度主管」（Head of Preparedness），年薪高達 55.5 萬美元，顯示其對模型安全風險的重視已提升至組織戰略層級。(techorange, 2025)

風險評估的轉變：從理論到實務

過去，OpenAI 的安全焦點主要集中在長期存在的理論風險上。然而，隨著模型能力的快速提升，特別是 GPT-4o 等新模型的推出，OpenAI 正將安全重心轉向更具體、更直接影響產品發布的實務問題。(iThome, 2025)

這體現在新的職位描述中，準備度主管不僅需要評估模型是否可能被濫用，還需要評估其突破現有防護措施的可能性，以及是否適合發布。這意味著安全評估將更緊密地與產品開發週期結合，成為產品發布流程中的關鍵一環。

OpenAI 的安全策略：多層次防護

OpenAI 採取多層次的安全策略，涵蓋模型生命周期的各個階段，從預訓練到部署。這些策略包括：

• 實證評估： 在模型發布前，進行內部和外部的實證評估，以識別潛在的安全漏洞。(智源社区, 2024)
• 風險門檻： 建立風險門檻，如果新模型的風險等級達到一定程度，將暫緩發布，直到採取足夠的安全措施。(智源社区, 2024)
• 外部專家參與： 邀請外部專家參與風險評估，以獲得更全面的視角。例如，在 GPT-4o 發布前，超過 70 位專家協助評估相關風險。(智源社区, 2024)
• 模型魯棒性： 訓練模型，使其對越獄等攻擊更具魯棒性，減少產生有害內容的可能性。(智源社区, 2024)
• 內容審核： 利用專用內容審核模型和自身模型監控安全風險和濫用行為。(智源社区, 2024)
• 資訊共享： 與 Microsoft 等合作夥伴分享關鍵發現，以便共同防範類似風險。(智源社区, 2024)
• 政策細化： 使用 GPT-4 等模型進行內容政策開發和內容審核決策，實現政策細化的快速反饋。(智源社区, 2024)
• 預訓練數據安全： 投資於預訓練數據的安全，確保模型學習的數據沒有潛在的風險。(智源社区, 2024)
• 兒童安全： 在 ChatGPT 和 DALL·E 中構建強大的預設防護措施，並與 Thorn 的 Safer 合作，檢測和報告兒童性虐待材料。(智源社区, 2024)
• 透明度與合作： 與政府和利益相關者合作，防止濫用，確保 AI 生成內容的透明度，並提高獲取準確投票信息的途徑。(智源社区, 2024)

新興風險：心理健康與網路安全

OpenAI 正在關注 AI 帶來的兩項新興風險：一是 AI 對使用者心理健康的潛在影響，二是模型在網路安全領域的能力。(techorange, 2025)

根據報告，每週有超過 100 萬名用戶在與 ChatGPT 的對話中表達嚴重心理困擾，儘管目前尚無證據表明 ChatGPT 直接導致這些問題，但 AI 在心理層面扮演的角色正快速擴大。同時，AI 模型在漏洞探索和自動化網路攻擊方面的能力也日益增強，這對網路安全構成新的威脅。

AI 安全指數：整體評分偏低

生命未來研究所 (Future of Life Institute) 發布的 AI 安全指數報告顯示，目前主流 AI 模型的安全評分普遍偏低。OpenAI 和 Google DeepMind 均獲得 D+ 的評分，Meta 的 Llama 模型則獲得最低的 F 評分。(gvm, 2024)

報告指出，所有參與評分的模型都存在安全漏洞，現有安全措施不足以確保 AI 的安全和可控。這凸顯了 AI 安全領域的挑戰，以及加強安全研究和開發的必要性。

準備框架 (Preparedness Framework) 的重要性

OpenAI 正在開發和維護一個「準備框架」，旨在詳細說明其如何評估前沿模型的能力，監控潛在風險，並建立一套問責和監督機制。(OpenAI, 2024)

這個框架將涵蓋一系列保護措施，並根據風險等級調整。準備度主管將負責領導這個框架的技術策略和執行，確保 OpenAI 能夠有效地應對 AI 帶來的潛在風險。

安全團隊變動與人才需求

OpenAI 的安全團隊近期經歷了領導層變動，原任緊急準備主管和相關高管相繼離職，導致該職位出現空缺。(techorange, 2025)

這也反映了 OpenAI 對於安全人才的迫切需求。招募準備度主管不僅是為了填補領導層的空缺，更是為了強化其安全團隊的整體實力，應對 AI 發展帶來的挑戰。

結論：持續投入與合作至關重要

OpenAI 對模型安全問題的重視程度正在不斷提升，並採取了多項措施來降低潛在風險。然而，AI 安全是一個複雜且不斷演變的領域，需要持續的投入和合作。OpenAI 的準備度主管職位，以及其正在建立的準備框架，都表明其正在積極應對這一挑戰。

未來，OpenAI 需要繼續加強安全研究和開發，與外部專家和合作夥伴保持密切合作，並不斷完善其安全策略，以確保 AI 技術能夠安全、可靠地為人類服務。

參考資料與原文來源

• 🔗 原文來源: OpenAI招募與模型安全相關的準備度主管 – iThome
• 🔗 原文來源: OpenAI安全策略新动向【AI战略洞察】 – 智源社区
• 🔗 原文來源: OpenAI跟Google DeepMind都拿低分！AI安全指數報告，美研究機構 … – GVM
• 🔗 原文來源: Frontier risk and preparedness | OpenAI
• 🔗 原文來源: 年薪55.5 萬美元的「災難預測師」：OpenAI 急徵高階主管 – TechOrange

“`

🧠本文由 DreamJ AI 技術新聞生成系統 自動撰寫並進行語意優化，僅供技術研究與教學使用。
請以原廠公告、CVE 官方資料與安全建議為最終依據。