政策已驗證(多個來源或官方文件可支持此內容)已修正
#AI 治理#風險評估
- 作者
- mushrooom 編輯台
- 閱讀時間
- 約 5 分鐘
- 發布時間
- 最後更新
NIST 發布生成式 AI 風險評估指引草案(示範)
提供可重複使用的測試流程,但尚未定為強制標準。
摘要
NIST(示範)發布生成式 AI 風險評估指引 v0.9,涵蓋幻覺率、偏見與資料洩漏三類測試建議。
發生了什麼
指引建議企業在部署前完成至少三類基準測試:幻覺率、偏見檢測、資料洩漏模擬(示範)。
已驗證(多個來源或官方文件可支持此內容)來源:NIST AI 測試框架(示範)數位發展部(示範)同日表示將參考類似框架制定公部門採購指引。
已驗證(多個來源或官方文件可支持此內容)來源:數位發展部(示範)
對讀者的影響
分析台灣公部門與受補助單位可能需提前準備 AI 系統風險評估文件,以符合未來採購要求。
此段為根據已知事實的推論分析,並非已證實的獨立消息。
編輯觀點
分析編輯觀點這份指引的價值在於提供可操作的測試清單,而非一次解決所有合規問題。建議開發者先從幻覺率基準測試著手。
資料來源
以下為本則新聞引用的具體來源,點擊可前往原始頁面。
- [1]一手來源NIST AI 測試框架(示範)
生成式 AI 風險評估指引 v0.9 發布
查看原始來源(生成式 AI 風險評估指引 v0.9 發布,於新分頁開啟) - [2]一手來源數位發展部(示範)
公部門生成式 AI 採購指引草案公開徵詢
查看原始來源(公部門生成式 AI 採購指引草案公開徵詢,於新分頁開啟) - [3]一手來源歐盟數位政策觀測(示範)
AI Act 高風險系統合規時程更新說明
查看原始來源(AI Act 高風險系統合規時程更新說明,於新分頁開啟)