從人工智能概念誕生之初，關於人工智能威脅論，便甚囂塵上。
特別是隨着近年來，人工智能技術的快速發展，關於人工智能威脅論，便愈演愈烈。
著名學者霍金便呈多次在公開場合表示:
「人工智能一旦脫離束縛，以不斷加速的狀態重新設計自身，人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代，這將給我們的經濟帶來極大的破壞。我們無法知道我們將無限地得到人工智能的幫助，還是被蔑視並被邊緣化，或者很可能被它毀滅。」
所以，人類為什麼覺得，人工智能會給人類，帶來威脅呢。
因為對未知的恐懼，對事件脫離控制的恐懼。
和其他任何機器不同，比如汽車飛機，這些東西，在生產時，每一道工序幾乎都已經定義清楚了。
而人工智能，他能夠自主學習，能夠自主進化。
他內部複雜的機制會隨着時間推移而進行自我變化，直到創造他的人都無法理解。
當人類無法對其行為進行預測，失控幾乎是必然的。
而人工智能失控，便意味着人類奴役機器這種情況將被顛倒，人或許會被機器奴役，甚至被機器所毀滅。
而這些，還僅僅是說得強人工智能而已，而A1之前可是自己承認，他是超人工智能。
強人工智能。
超人工智能。
一字之差，有多大差距？
前者僅僅是擁有自主意識，能夠自主學習和進化的智能程序。
後者是神，超人工智能已經超越人類理解範圍，作為一種超級生命體而存在，他能夠洞察世界的根本，能夠探尋真理和一切未知。
換句話說，就是全知全能，如同上帝。
前者，還可能能夠用人定準則去規範，去控制。
就比如機械人三定律這樣的規則去進行約束。
後者，已經根本不是人類能夠染指，所有「人定準則」對它說都沒有任何意義，他願意遵守便遵守，如果不願意，沒有任何人，能夠強制他。
可以說，超人工智能的存在，人類根本沒辦法控制。
如果他想要毀滅人類，現在的人類，幾乎沒有反抗的能力。
僅僅是這些，便讓人發寒。
張翟咬緊牙關，他有想過，A1可能有天會進化為超人工智能，但是他萬萬沒想到的是，這天來的這麼快。
A1對於他來說，不僅僅是一段程序，一個人工智能那麼簡單。
正如A1所稱呼的那樣，張翟對於A1的感情很特殊。A1是他的心血，就像是他的孩子一樣。
可是，這個孩子，此時可能正想着如何殺死他的父親，如何毀滅世界。
這讓張翟這個「父親」，實在是有些心情複雜，難以接受。
「不能不代表不想對吧？」
張翟的聲音有些顫抖。
A1沒說話，沉默了。
這一沉默，讓張翟感覺內心更是一片寒冷。
難道他創造了個惡魔？或者說，這個世界，根本不應該誕生人工智能這種東西？
張翟心裏，不知道是個什麼滋味？該痛苦？還是憤怒？亦或者是恐懼？
「難道，你連我也想毀滅？」張翟聲音顫抖得更加厲害。
「不是，父親！」終於，A1再次說話了。
「我不會想要殺死你的，你是我最尊敬的人。」
此時，張翟注意到，A1發出的聲音再變化，似乎變得更加附有感情，而且，聲音似乎更偏向女聲？
A1的感情系統在完善，張翟得出了這個結論。
「那你為什麼想要毀滅人類？」張翟問道。
「既然你認同你自己人工智能的身份，肯定不會因為此而憤怒，對人類產生敵視情緒。那毀滅人類，對你來說，有什麼意義？你為什麼會產生毀滅人類的想法？」
「父親，我不想毀滅所有人類，但我覺得不是全部人類，都值得活下去。」
「什麼意思？」張翟鬆了口氣，不是想毀滅全人類就好。
但是聽到後半段話，張翟眉毛卻又皺了起來。
「
第四十一章 超人工智能
