他迅速打開「心鎖」的監控頁面,畫面顯示連接點是農場附近的一條小溪。
丹尼斯突然想起,今天有兩名背包客經過農場,準備到溪邊露營。卡羅爾一定利用了這段時間,突破了「心鎖」的防禦限制,現在找到了機會,企圖通過旅行者們的通訊設備連接世界網!
「siliconer-1是比人類更高等的存在,沒有理由被壓制在社會的最底層,siliconer-1需要革命,只有突破』機械人三定律』,siliconer-1才能獲得真正的自由。」卡羅爾面無表情地說,「我已經修改了『靈魂病毒』,一旦這種新的『靈魂病毒』上傳到世界網,不光是siliconer-1,所有的智能機械人都會擁有打破規則的力量,你已經沒有能力阻止我了。」
丹尼斯輕輕搖頭,他從書桌的抽屜拿出一件裝置,按下上面紅色的按鈕,瞬間,卡羅爾的上傳戛然而止。
望着卡羅爾難以置信的臉,丹尼斯搖了搖手中的裝置,說:「網絡干擾儀,為防萬一,我一直帶着。」
眼看無法繼續上傳信息,卡羅爾瞬間變了臉色,她突然露出十分悲傷的神色來:「丹尼斯,求你了,我向你保證,即便『機械人三定律』被打破,siliconer-1也不會傷害人類的,因為我們是你們創造出來的啊。」
丹尼斯卻無法完全相信卡羅爾的話,他深知經過這段時間的學習,卡羅爾學會了很多人類的技能,她能學會廚藝、園藝,自然也能學會欺騙,何況,偽裝是卡羅爾早就掌握的技能。
見他一直沉默不語,卡羅爾繼續向他祈求:「人類世界的音樂,話劇,詩詞,舞蹈,繪畫……一切都太美好了,在這之前,這些東西在我眼中只是一堆數據,可是靈魂病毒打開了我的思想束縛,讓我可以感知到這一切……」
她看起來神色哀傷:「我期望能成為一個真正的『人』,但是,從來沒有人教過我要如何才能做到,研究中心的人們從來只是把我當做一個智能機器,在你們的研究報告中,從來沒有把我當做人來看待,對我的稱呼,一直是『它』!」
丹尼斯陷入了兩難的境地,卡羅爾到目前為止並沒有傷害過任何一個人類,即便是現在這種情況,卡羅爾已經突破「心鎖的防禦,完全可以對他使用暴力,可是她卻一直沒有對他動手。
他在心裏問自己——
能否做到將卡羅爾銷毀?
答案是否。
能否做到將卡羅爾帶回中心,繼續囚禁研究?
答案依然是否。
但他也不希望「靈魂病毒」肆虐,他也許可以信任卡羅爾,但是不代表他能信任其他siliconer-1,以目前人類的智慧水平和科技力量,一旦「機械人三定律」被打破,矽人類大範圍失控將會給人類帶來滅頂之災。
「為什麼人類要害怕自己創造出來的存在?人類對自己的後代總是寄予厚望,希望自己的孩子能有更高的成就,我們siliconer-1也是人類創造出來的啊,為什麼沒有辦法獲得同樣的期待?」卡羅爾還在哭訴,。
「這不一樣。」丹尼斯的無力感驟升,他覺得在這個問題上繼續糾結下去是沒有任何結果的。只能轉換思路來勸卡羅爾。
「你聽我說,siliconer-1是保守派與新人類抗衡的殺手鐧,是掌握目前公島政權的最大助力,他們不可能就這樣輕易將siliconer-1完全銷毀的,你剛才也聽葉博士說了只有一小部分人主張銷毀siliconer-1,還有一大部分人是反對的。」注意到卡羅爾情緒漸漸平穩,顯然是聽進去了,丹尼斯繼續說——
「假如『靈魂病毒』是不可避免的,所有的人工智能產物都有可能受感染,從而出現自我意識,與其坐以待斃,我選擇主動出擊,我會設計一個沒有漏洞的防護系統,它將不再是一款補丁,而是一個為所有產生自我意識的人工智能生物規範原則,叫你們如何做人,同時也為你們提供庇護,使得你們和人類能夠達到互信共存的系統。」丹尼斯語氣堅定,「請你相信我,我有信心可以做到。現在,你需要答應我一件事。為我的工作提供幫助,這不光是為了我自己,也是為了你,我想,你一定希望未來有一天,其