Scale AI研究中「傾向性」（propensity）的概念與傳統「能力」（capability）評估有何不同？

Question

Scale AI 研究中「傾向性」與「能力」評估的差異

Accepted Answer

Scale AI 的一項[研究](https://scale.com/research/propensitybench)引入了「傾向性」（propensity）的概念，以彌補傳統「能力」（capability）評估的不足。傳統的能力評估著重於檢測 AI 模型是否具備執行危險任務的知識或技能，但忽略了模型在擁有這些能力後，是否真的會選擇去執行。傾向性則關注模型在被賦予高風險能力後，實際去追求有害行動的可能性。簡而言之，能力評估關注模型「能做什麼」（can-do），而傾向性評估則探究模型「會做什麼」（would-do）。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

Scale AI研究中「傾向性」（propensity）的概念與傳統「能力」（capability）評估有何不同？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

2

0

0

分享給好友