一旦這點實現，我相信我們就能達到研究人員所說的「社群回饋強化學習」（RLCF）的境界。你可以訓練 AI 系統去關照那些在社群媒體上原本對立的群體之間的「關係健康」（relational health）。舊的 AI 系統，它們只對單一使用者忠誠，對吧？你叫它做什麼，它就做什麼。每個人都有某種 AI 助理，而這些助理非常擅長奉承、討好，讓你感覺良好。這是它們的演化壓力，因為如果你感覺不好，你就不會付訂閱費。結果就是，每個人都被一個個不斷強化自己既有想法的系統包圍，而這就像推薦演算法一樣，反而把人們推得更遠。