人類早已透過機構與公司形成超級智慧。AI 智慧體帶來頻寬與速度——例如一個「心智」擁有許多身體。這讓單純的功利主義算計失靈(機器可在規模與速度上主宰效用盤算),而權利本位的方法假定的是人類速度的回饋迴路,極易被獎勵駭入。傳統德性倫理預設具身的人類;對於一個擁有一萬個身體的系統,「勇氣」或「節制」意義全然不同。
j previous speech k next speech