所以這非常符合關於「盡可能雙贏」的那個關懷，也就是第五個，或稱團結（solidarity）。這個關懷基本上是說，我們需要確保當我們訓練 AI 系統時，它不是在優化個人的喜好，因為那樣它就會變成馬屁精（sycophant），它會變成將個人福利最大化。
所以這非常符合關於「盡可能雙贏」的那個關懷，也就是第五個，或稱團結（solidarity）。這個關懷基本上是說，我們需要確保當我們訓練 AI 系統時，它不是在優化個人的喜好，因為那樣它就會變成馬屁精（sycophant），它會變成將個人福利最大化。