芝能智芯出品

輔助駕駛和自動駕駛技術全面加速，人工智能系統已經逐漸成為車輛功能決策鏈條中的關鍵部分。不同于過去以傳統規則邏輯為主的車載系統，人工智能因其數據驅動、非確定性與難以完全解釋的特性，給車輛安全帶來了前所未有的挑戰。

傳統的功能安全體系，如 ISO 26262，以及針對預期功能安全的 ISO 21448，奠定了汽車安全體系的基礎，卻難以直接覆蓋人工智能模型的特性。

2024 年正式發布的 ISO/PAS 8800 才真正成為行業首次嘗試為車載 AI 系統建立具體安全論證框架的標準。

這份標準并不旨在提供嚴格的定量門檻或規定統一的流程，通過框架化結構，讓不同車企、供應鏈環節和AI開發者能夠共同構建“項目特定”的安全論證體系，基于 ISO/PAS 8800 的整體內容，并結合其與現有體系的關聯、工程實踐中的難點，以及行業正在嘗試的解決路徑。

Part 1ISO/PAS 8800  安全關鍵應用的困境到可信AI框架

汽車電氣電子架構師越來越復雜，AI 系統在車輛中的角色正在發生結構性變化，AI 大多被用于體驗型、非安全關鍵場景，例如語音識別、車內個性化調節或簡單的圖像分類。

這類應用的準確率通常只要達到 90% 以上即可滿足體驗需求，偶有錯誤也不會造成安全后果。當AI 開始進入自動駕駛、智能剎車、行人識別、避撞決策等領域時，傳統的準確率指標顯然就不再足夠。

一個 95% 準確率的交通標志識別模型，在體驗上看似可靠，卻可能意味著每 20 次識別就有 1 次誤判，在高速場景中就可能帶來致命風險。

正是因為這種本質性差異，AI 從非關鍵場景進入安全關鍵場景之后，整個技術體系發生了結構性斷裂。

傳統工程體系依賴規則邏輯、可驗證的狀態機、可追蹤的信號鏈路、精確的定量指標，以及明確的故障模式。而 AI 系統則由統計模型、概率輸出和數據驅動行為構成，參數量巨大、行為難以完全解釋，傳統驗證方法幾乎無法直接應用。

從2022年起，國際工程界開始嘗試建立一套面向安全關鍵人工智能應用的工作方法，包括黃金法則體系、AI 全生命周期規則與架構設計指導，歐盟 AI 法案于 2025 年開始實施，從監管層明確了 AI 的風險分級與透明度要求，尤其是對高風險 AI 的監管框架，為車輛 AI 標準化奠定了基礎。

ISO/PAS 8800 的發布可視為行業“第一次試圖系統性回答車載 AI 應如何被證明為安全”，核心定位不是替代現有標準，而是成為連接人工智能與汽車安全體系之間的橋梁。

標準明確了 AI 系統在車輛安全架構中的角色，描述了構建安全論證時需回答的一系列關鍵問題，并指出系統架構、數據集管理、模型訓練、驗證與確認、運行監控等生命周期環節應如何納入安全工程體系。

從標準本身來看，這是一個“安全論證框架”，明確 AI 系統必須給出功能規范、運行設計域、輸入輸出定義、安全目標、冗余策略、數據合理性驗證、模型可解釋性、過擬合控制、不確定性度量、標簽偏差控制等要求，但并不給出工程量化指標。

這種結構的原因在于，AI 的使用場景差異極大，難以通過統一指標覆蓋所有情況，尤其是神經網絡模型在不同車輛、不同任務和不同傳感器下表現差別明顯。

在實踐層面，ISO/PAS 8800 引導開發者從系統工程角度重新審視 AI 的角色。

例如，在車輛感知系統中，模型的輸出不再只是準確率，而需要在工程邏輯中回答：在不同光照、極端天氣、邊界條件下，系統是否能夠給出可靠結果？模型的不確定性是否可以被監測？輸入數據是否可能出現非合理信號？邊界行為是否得到分析？對于誤分類，是否采用了安全權重體系？所有這些都必須最終體現在可驗證的安全論證中。

這也引出了 ISO/PAS 8800 最重要的價值：將人工智能納入“可討論、可驗證、可管理”的工程體系。

標準也暴露出行業仍未解決的根本難題。由于缺乏數學上的嚴格定義和完整的定量化框架，AI 安全論證仍然依賴項目具體情況，不同車企或供應鏈之間的工程方法可能會出現差異。

而深度神經網絡作為 AI 系統的核心，因其不透明性與不可完全預測性，在標準中仍然缺少深入描述，這也意味著行業還需要更多方法來彌補該部分空白。

Part 2AI安全工程的關鍵問題與可行路徑

要真正理解 ISO/PAS 8800 的意義，就必須從工程實現的角度理解 AI 系統安全的核心難題。

在車輛中，一個 AI 模型從定義到部署，至少需要經歷功能定義、架構設計、數據集構建、模型訓練、測試驗證、系統集成、運行監控等多個環節，而每一個環節都可能影響其最終安全性。

功能定義與運行設計域。

與傳統系統可以通過規則精確限定行為不同，AI 系統的功能往往由數據隱式決定，因此必須在安全工程上額外定義非常嚴格的預期使用場景、輸入類型、目標行為和邊界情況。

ISO/PAS 8800 將這些內容納入安全論證的首要部分，要求工程團隊必須清晰劃定 AI 模型應在何種場景發揮作用，并在架構上采用必要的保護機制，例如規則型判斷、投票機制、冗余模型或置信度閾值，以避免 AI 在超出其能力時仍輸出高風險結果。

數據集的問題。

深度學習模型的能力受到數據決定，而數據集本身可能存在偏差、缺失、標簽錯誤、稀有場景不足等問題。

ISO/PAS 8800 對數據集提出明確要求，包括極端案例的收集和系統性識別、標簽過程的驗證、偏差控制、數據增強策略、環境變化下的更新機制等。

對于工程團隊而言，這意味著數據管理將成為安全工程的重要組成部分，而不僅僅是模型訓練的前期準備。

在模型層面，ISO/PAS 8800 要求開發者提供可解釋性分析、可復現性驗證、過擬合控制、不確定性度量等內容，并要求在安全論證中給出對應的工程控制方法。

尤其是可復現性，對于大型深度神經網絡來說，訓練過程中的種子、硬件差異、并行計算方式都會導致輸出差異，標準要求開發者必須控制模型訓練的確定性，并在必要時提供硬件一致性分析和配置記錄。

最難的問題來自驗證與確認環節。

傳統軟件可以通過代碼審查、路徑覆蓋、邊界分析實現高置信度驗證，但 AI 模型無法通過這些方式進行完備性驗證。

因此 ISO/PAS 8800 采用指標化驗證思路，將驗證指標分為性能相關、安全相關和系統相關三類。

但標準仍未給出最終定量指標，這使得安全論證必須結合 ISO 21448 的風險評估方法，如 GAMAB、ALARP 或 MEM 來進行定量化推導。

在 SAE L5 級車輛的交通標志識別中，ASIL C 要求模型的誤識別概率必須低于特定門檻，意味著系統需要達到接近 99.99% 的安全相關準確率。顯然，這一數字在大多數工業系統中仍然難以實現。

行業開始探索新的解決方案，基于誤分類風險權重的神經網絡訓練方法，可以使模型在訓練過程中不僅追求整體準確率，還重點減少安全關鍵型誤分類的發生，從而提供可用于安全論證的指標體系。

解決方案來自 AI 架構本身。

通過引入透明可驗證的架構，目標分組分類器、基于特征分解的并行分類體系、置信度拒絕策略等，降低模型的難解釋性，提高工程可控性。

這類架構將復雜分類問題拆解為多個獨立子問題，每個子分類器針對單一結構特征，從而提高整體系統可解釋性與可驗證性，最終讓安全論證更加透明。

標準體系仍面臨巨大挑戰。

不同規范。SO 26262、SOTIF、網絡安全標準、人工智能相關技術報告——在功能、流程和風險定義上差異明顯，當開發分布在 OEM、Tier 1、Tier 2 等多個層級時，不同團隊可能同時采用不同規范，甚至出現規范遺漏。

ISO/PAS 8800 雖試圖將 AI 納入整體流程，但缺乏明確的集成指導，這導致行業必須自行構建跨規范的整合型開發流程，將車輛、系統、組件各層級的任務重新對齊，確保 AI 安全活動貫穿整個生命周期。

AI 安全不是單一團隊能夠完成的任務，而是一個貫穿架構、安全工程、數據工程、模型工程、測試工程、系統集成工程的跨學科體系。

小結

從系統工程的角度看，ISO/PAS 8800 并不是一個能夠立即落地的成熟標準，行業關于車載人工智能安全論證的第一次正式嘗試，使得 AI 系統能夠被納入可分析、可驗證、可追蹤的工程體系中，也為 OEM 與供應鏈建立共同語言。

       原文標題 : 車載AI安全規范ISO/PAS 8800：驗證汽車人工智能安全的嘗試