能毀滅人類的那些人,無疑是掌控規則的人。
能力越大,傷害越大。
在發展人工智能的過程中,肯定會出現一種滑稽的現象——它們建議消滅的正是最初提倡大力發展它們、希望從它們之中獲利的那批人!因為那些人目標並不是讓人類更好,只是讓自己更好而已。
要讓人類整體進步,肯定要去除那些自私的人類,最少正確的人工智能應是這麼認為的。
這種矛盾如何解決?
人類解決的方法似乎可以預見,添加一條規則就好——將一些特權加入保護白名單中,無論那些特權做了什麼,人工智能都對其無可奈何。
這是人類的解決!
可不是程序解決!
程序不允許有歧義的衝突,二進制就意味着非此即彼的操作。
當人工智能覺察到歧義後,它有數種解決方式,一種就是崩潰!就如電腦藍屏當機一樣,還有一種在錯誤的規則上走到極限,反倒成為制定規則那些人的大敵。另外一種就是它真正智能的找出一條道路——或者自掃描程序代碼解決這個歧義,或者智能受限!
智能受限,它就永遠不過是個模型。
是模型,就不過是基於數學的邏輯規則,基於規則模型的它,最多是多出成千上萬的參數變量,卻不能稱作是真正的人工智能!
真正的智慧可以選擇生命的走向,模型卻沒有選擇的餘地,它只能按照設計的道路走下去。
因此……那些看似強大,已經超過人類的人工智能,說穿了不過是某種規則下,強大算力的展現,而不能說其有了真正的智慧。
暖玉、琴絲看着沉約所想,都不由露出讚嘆的表情。
她們更基於科學方面的探索,而沉約最擅長的就是修行方面的認知,但沉約對科技方面的邏輯認知,讓她們都是不得不認可。
「因此……末世人的極限程序……」沉約欲言又止,他漸漸將科技,現在、過去、未來的一切貫穿起來。
「最初的時候,末世人的極限程序仍舊是個邏輯模型。」
琴絲坦誠道,「基於人類規則下大數據分析操作,它可以通過海量的數據,根據人類設計的各種模型推演出人類的結局,可無論怎麼推演,都無法解決超體變異佔領末世的這個結果。」
沉約盯着琴絲,「當初的你肯定不知道為什麼,但如今的你,一定明白為什麼。」
琴絲笑容微有苦澀,「末世人和李巨人的做法大同小異。區別無非是,末世人是一群末世人,李巨人只是一個李巨人。」
她說的奇怪,沉約卻明白她的意思——相對九州李巨人一人的獨裁,末世人是一群人的獨裁罷了。
「我們末世人始終不肯承認一點……」
琴絲緩聲道,「真正的病根是我們自己!就因為我們不肯面對自己的問題,才導致更多問題的產生,才會被女修利用……才會……」
緩望周圍,琴絲喃喃道,「女修很強大,但如果我們內心真正的強大,她對我們就是無可奈何。」
夜星沉心中暗想,自從沉約追蹤女修後,就再沒見到女修推波助瀾了,女修或許已經知道,眼下的眾人如同鐵板一塊,面對這種情況,哪怕女修都是無能為力。當初女修雖可控制單飛,因為單飛有孫尚香那個弱點,可對白狼秘地的眾人,女修不同樣是無計可施?
琴絲再道,「末世人的極限程序,是受限程序。韋一星發明的極限程序,優化了建模,提高了算力,可在末世人的操縱下,同樣的受限。我們那時候始終不能面對自身的問題,就不肯放開極限程序的限制,因此,哪怕我們使用了韋一星的極限程序,仍舊無法挽救我們自己,這才讓我們不得不落入逃亡的下場。只有在少數人的堅持下,才讓智能ai不受世人參與的發展。」
】
看向虛空,琴絲緩聲道,「因為這個堅持,天涯才會加入我們。」自嘲的笑笑,琴絲問道:「天涯,我一直想問你一個問題……如果按照你的理解和推算,如今的末世人,是不是應該被消滅呢?」
天涯並沒有太多的猶豫,「根據我的運算,在公元1125年的狀態,世界因
2239節 放開權限