是。所謂普世評分函數,在實質上就是一種神學。凡是把全部價值都放在某種超越性回報上的神學,都可能為了那個回報而正當化一切現世傷害。這就是為什麼功利式訓練,也就是以單一抽象指標為導向的訓練,不足以作為 AI 對齊的基礎,甚至可能相當危險。
j 下一段next speechk 上一段previous speech