一個有著和人一樣思考水平的機器，同時有著比人快無數倍的思考速度以及幾乎無限的記憶空間，這臺機器在知識理解上能達到什么樣的境界?這樣的機器幾乎比人類所有科學家都厲害!

　　蒂姆·厄班的推理足以讓每個讀者驚出一身冷汗：“一個人工智能系統花了幾十年時間達到了人類腦殘智能的水平，而當這個節點發生的時候，電腦對于世界的感知大概和一個4歲小孩一般;而在這節點后一個小時，電腦立馬推導出了統一廣義相對論和量子力學的物理學理論;而在這之后一個半小時，這個強人工智能變成了超人工智能，智能達到了普通人類的17萬倍。”

　　也就是說，一個具備了人類水平認知能力和學習能力的機器，可以借助比人類強大得多的計算資源、網絡資源甚至互聯網知識庫以及永不疲倦、不需要吃飯睡覺的特點，無休止地學習、迭代下去，并在令人吃驚的極短時間內，完成從強人工智能到超人工智能的躍遷!

　　那么，超人工智能出現之后呢?比人類聰明好幾萬倍的機器將會做些什么?機器是不是可以輕易發明足以制服所有人類的超級武器?機器必將超越人類成為這個地球的主宰?機器將把人類變成它們的奴隸或工具，還是會將人類圈養在動物園里供機器“參觀”?那個時候，機器真的還需要我們人類嗎?

　　邏輯上，我基本認可蒂姆·厄班有關強人工智能一旦出現，就可能迅速轉變為超人工智能的判斷。而且，一旦超人工智能出現，人類的命運是難以預料的，這就像美洲的原始土著根本無法預料科技先進的歐洲殖民者到底會對他們做些什么一樣簡單。

　　但是，蒂姆·厄班的理論有一個非常關鍵的前提條件，就是上述有關強人工智能和超人工智能發展的討論是建立在人類科技總是以加速度形式躍進的基礎上的。那么，這個前提條件真的在所有情形下都成立嗎?

　　我覺得，一種更有可能出現的情況是：特定的科技如人工智能，在一段時間的加速發展后，會遇到某些難以逾越的技術瓶頸。

　　有關計算機芯片性能的摩爾定律(價格不變時，集成電路上可容納的元器件數目每隔18到24個月便會增加一倍，性能也將提升一倍)就是一個技術發展遭遇瓶頸的很好例子。計算機芯片的處理速度，曾在1975年到2012年的數十年間保持穩定的增長趨勢，卻在2013年前后顯著放緩。2015年，連提出摩爾定律的高登·摩爾(Gordon Moore)本人都說：“我猜我可以看見摩爾定律會在大約10年內失效，但這并不是一件令人吃驚的事。”

　　正如原本受摩爾定律左右的芯片性能發展已遭遇技術瓶頸那樣，人工智能在從弱人工智能發展到強人工智能的道路上，未必就是一帆風順的。從技術角度說，弱人工智能與強人工智能之間的鴻溝可能遠比我們目前所能想象的要大得多。而且，最重要的是，由于基礎科學(如物理學和生物學)尚缺乏對人類智慧和意識的精確描述，從弱人工智能發展到強人工智能，其間有很大概率存在難以在短期內解決的技術難題。

　　如果蒂姆·厄班所預言的技術加速發展規律無法與人工智能的長期發展趨勢相吻合，由這一規律推導出的，超人工智能在可見的近未來即將降臨的結論也就難以成立了。

　　當然，這只是我個人的判斷。今天，學者們對超人工智能何時到來的問題眾說紛紜。悲觀者認為技術加速發展的趨勢無法改變，超越人類智能的機器將在不遠的將來得以實現，那時的人類將面臨生死存亡的重大考驗。而樂觀主義者則更愿意相信，人工智能在未來相當長的一個歷史時期都只是人類的工具，很難突破超人工智能的門檻。