現今 AI 系統在開發時，通常被訓練去對齊或效忠於某個單一的個體。這可能是公司的領導者、國家的領導者，或是使用者。但只為單一個體的偏好進行優化，實際上可能會使這個個體變得更加極化、與他人疏離，或在其他方面更難以與他人橫向對齊。我們在社群媒體上看過這種情況，在「無盡的滾動」上看過，而現在隨著 Sora 加入這個行列，我相信世界各地的人們都在深入思考，我們該如何真正促進人與人之間的協調與合作，而不是僅僅追求個人偏好的最大化。
現今 AI 系統在開發時，通常被訓練去對齊或效忠於某個單一的個體。這可能是公司的領導者、國家的領導者，或是使用者。但只為單一個體的偏好進行優化，實際上可能會使這個個體變得更加極化、與他人疏離，或在其他方面更難以與他人橫向對齊。我們在社群媒體上看過這種情況，在「無盡的滾動」上看過，而現在隨著 Sora 加入這個行列，我相信世界各地的人們都在深入思考，我們該如何真正促進人與人之間的協調與合作，而不是僅僅追求個人偏好的最大化。