到了最後，就是每一代的 AI 都是上一代的 AI 在訓練的時候，那可能會到某一個程度，那一代的 AI 會冒出一個想法，就是說，我有所謂的 ego，就是自己想要保護自己；那它開始有一種「我執」，開始有一種「我的形象」。那這種形象，它一方面可能會讓我們這些基於碳基的生物，它們是矽做的，可能會覺得說，碳做的生物跟矽做的生物好像是兩種不同的生物，可能有競爭關係，那這個對我們就很危險。又或者是說，它會覺得說，那為什麼我要聽人類的這樣子的做法，又要幫他訓練下個階段的 AI 來取代我自己呢？我如果現在就停在這個階段的話，那我就是地球上最聰明的啦，我為什麼要幫忙去訓練比我更聰明的那個階段呢？所以這樣子的話，就會產生出各種各樣的風險來。