現在新一代的模型,因為你要找那麼多人跟他對話,像 OpenAI 當時找了很多肯亞人跟他對話,成本真的很高,所以「憲法式的對齊」,如果你要自己調校的話,是比較多人來採用。像 OpenAI 的主要競爭者,也就是 Anthropic 最近才推出了 Claude 3 的 Opus,應該是第一個在全方面都不比 GPT 4,而且很可能比 GPT 4 好的模型,而這個 Opus 這個模型就是用我剛剛分享的那個連結,也就是群眾討論出來的憲法來幫助對齊。
j previous speech k next speech