人之所以為人，因?yàn)槲覀冇兴劳觯驗(yàn)槿擞辛怂劳?，才有一代接替一代傳承的需求，才有了今天人的發(fā)展史，才有了人的進(jìn)化。如果全世界每一個(gè)生出來的人都不死，世界會(huì)有多少人和思想，這會(huì)不會(huì)讓世界不堪重負(fù)？

真正有價(jià)值的思想固然值得保留下來，但迄今為止人類歷史上值得下載的大腦可以一只手?jǐn)?shù)出來，比如說愛因斯坦。絕大多數(shù)我們都是凡人，遠(yuǎn)沒有偉大到要把大腦下載保留下來的地步。我們千萬不要把自我中心、自大自私的心態(tài)，發(fā)展成妄圖用科技長生不老的野望。

退一步說有一天AI科技發(fā)展到了這個(gè)份上，它對(duì)于人類的未來也未必是一個(gè)好事兒。試想，如果我們的手機(jī)中了病毒，大不了升級(jí)一下，換一個(gè)軟件，或者最糟的情況，再買一個(gè)手機(jī)。但是如果無人駕駛被壞人侵入了，那將變成殺人的武器。怎樣在設(shè)計(jì)AI軟件的時(shí)候確保它的安全性，這是比PC和手機(jī)的安全都要更重要幾千萬倍的事情，因?yàn)樗P(guān)乎人類社會(huì)的穩(wěn)定。

AI是一個(gè)黑盒子，大數(shù)據(jù)進(jìn)來以后會(huì)做一個(gè)決策，它可能會(huì)建議銀行不要貸款給某個(gè)人，但是AI可能解釋不出來為什么不要貸款給他。未來AI可能會(huì)用于定罪量刑，它告訴法官這個(gè)人該判八年，如果法官聽取了AI的意見，而AI又無法解釋自己，證明它對(duì)這個(gè)案件或者這個(gè)人沒有偏見，被判罰的人會(huì)服嗎？因此，現(xiàn)在AI在很多情況不能解釋自己，也可能存在偏見，這個(gè)會(huì)是很多人擔(dān)心的點(diǎn)之一。

未來AI將幫我們決定每天該吃什么，旅游去哪里玩得最開心，找什么樣的人談戀愛最合適等等。那些問題來了：如果把基礎(chǔ)的抉擇都讓AI來做了，那么我們?nèi)绾尉毩?xí)，讓自己變成更好的有自我選擇意識(shí)且不斷自我升級(jí)的人類呢？

這些不知道自我提升的人，一部分會(huì)變得越來越懶惰，因?yàn)橐磺卸伎梢钥緼I來幫助做決策；另一部分無法在AI在不能勝任領(lǐng)域找到工作，在AI擅長的領(lǐng)域又完敗于AI的人則會(huì)越來越頹廢。

這是很可怕的。如果我們不努力找出一種方式讓我們的后代在成長的過程當(dāng)中，既確保AI安全發(fā)展，同時(shí)不斷提升和強(qiáng)化自己，那么隨著AI為我們做越來越多的思考和決定，我們可能會(huì)失去做為人的獨(dú)立性，甚至出現(xiàn)退化。