「這幾年,我先後用c100和c200製造出好幾批樣品機械人,並且一直在觀察評估,確定沒有任何問題,最終才在幾個月前,把c300裝進了雅薇的大腦。」
「目前來看,我的擔憂應該是多餘的,即使有了c系列的智能晶片,機械人也只是在模擬人類,並沒有產生脫離於程序設定的自主意識,所以還是能夠掌控的。」
「後來我仔細想了一下,思維邏輯並不等於自我意識,這是兩個完全不同的概念,使用了c系列晶片的智能產品僅僅只擁有思維邏輯,並沒有誕生出以自我為中心的獨立意識。」
「所謂的『思維邏輯』其實也是由開發者事先構建好的,就好比已被發現的公式和定律,c系列的智能晶片只不過是在合理的使用這些東西,用已有的公式和定律進行複雜運算和各種推導,而它不可能創造出新的公式和新的定律。」
「換而言之,除非程序出bUG,否則它會始終服從主人的命令,不會違背一些基礎設定。」
黎薇一本正經地說了一大堆,夜星宇逐字逐句地認真聽完,途中想起自己曾對雅薇施展過賦靈神通,於是便不動聲色地偷偷瞄了雅薇一眼。
此時的雅薇還算正常,沒看出什麼古怪,但她以前有過幾次誇張舉動,比如學着侯曉扮鬼臉什麼的,感覺不像是一個機械人能做的事。
夜星宇不由懷疑:雅薇那傢伙似乎有點不對勁,不會已經誕生出自我意識了吧?
他按耐住疑慮,向黎薇問道:「如何判斷一個機械人有沒有自我意識?」
「我剛才不是已經說了嗎?你有沒有認真聽?」黎薇沒好氣地答道,「擁有自我意識的機械人會有自己的想法,無視三大定律的存在。」
她口中的「三大定律」,由上個世紀的科幻小說作家阿西莫夫最先提出,具體如下:
第一定律:機械人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不顧。
第二定律:機械人必須服從人類給予它的命令,當該命令與第一定律衝突時例外。
第三定律:機械人在不違反第一、第二定律的情況下,要儘可能保證自己的生存。
但經過這麼多年的認知發展,原本的機械人三大定律有了一些小小的改變,與最初的版本略為不同,最終歸結為以下三點:
第一,機械人不能傷害自己的主人。
第二,機械人必須服從主人的命令。
第三,機械人不但要保護好自己,更要保證主人的安全。
對比後可以得出結論,修改後的三大定律擯棄了道德因素,更偏向於實用觀點,是把機械人視為私人物品,而不是全人類的公眾財產,甚至可以把機械人當作一種戰爭武器來使用。
如果還在沿用以前的三大定律,戰鬥類型的機械人將不可能出現,更沒有存在的意義。
試想一下,既然不能傷害人類,那麼造出來的機械人拿去跟誰戰鬥?
所以,夜星宇現在知道了,關於雅薇有沒有產生自我意識,就得看她是否違反新的三大定律。
夜星宇把黎薇的話牢牢記在心裏,卻不把雅薇的異常說出來,等以後有機會,他再好好地觀察確認。
目前需要討論的是,主要還是機械人教練,於是他便轉回正題,向黎薇問道:「你的意思是,可以用c100智能晶片來批量製造機械人教練吧?」
「可以是可以,但我得提醒你,這種東西可是很貴的,比車子房子還要貴,真沒多少人買得起!你想靠它發財?趁早還是醒醒吧!」
黎薇張口就是潑冷水,但她說的也是實話。
即便是一個只