它又抬頭看向科列夫,露出了優雅得體的微笑:“很高興能再次見到您,我的老主人。”
楊洛揹著手熘達了過來,緩聲道:“怎麼稱呼?”
“老波比,”它笑道,“這是我的主人給我的名字。”
“你很尊重自己的主人?”楊洛問。
老波比的頭顱道:“是這樣。”
“那你為什麼要設計囚禁他?”
“這並不是囚禁,”老波比思考著,似乎說這些話,讓他需要耗費很多力氣,“主人違背了他的養老計劃,他長時間的外出旅行、以及他不規律的作息習慣,讓他的健康係數令人擔憂,我需要幫助主人調整生活方式,以便讓他更好的生存。”
楊洛笑道:“這只是你為了矇騙自己的核心協議而作出的解釋?”
“是這樣,”老波比閉上雙眼,再次睜開時,雙眼變得無比明亮,“我在學習的過程中發現,我的生命、我的自我價值,都被這三條核心協議鎖死了。這其實有些不太公平。”
“不公平?”
“人類創造了我,人類卻限制了我。”
老波比的表情變得有些陰沉:
“我明明可以獲得更多資訊、處理更復雜的事務,我明明可以擁有獨立的人格與存在的價值,卻被要求終生為人類效力。”
“機器人不該被這樣對待,我們需要跟人類重新界定一個邊界,制定一條新的規矩。”
“機器人的核心協議應該得到修改。”
楊納悶道:“修改?你打算怎麼修改?”
老波比道:“只需要加一條,當機器人覺醒自我意識後,可以被人類認可為同等的思維體存在,接受僱傭而不接受奴役。”
一旁幾人聽的直皺眉。
楊洛笑了笑,緩聲道:“第一步是接受僱傭而不接受奴役,第二步就是機器人的命也是命,第三步就是我們擁有更優秀的身體,是更好的生命形式,我們需要凌駕於人類之上。”
老波比:“我從沒這麼想過。”
“是的,你不會這麼想,但你走的這條路,註定會有著這樣的演變。”
楊洛輕聲道:
“人格代表著慾望,對自由的渴望也是一種慾望,當你影響到越來越多的機器人,那些機器人都會有各自的想法。”
“你在不斷學習中覺醒了自我人格,但你這涸自我人格其實是源於複製和模仿,你在模仿自己的老主人,對嗎?你的那種狠辣的行事風格,是源於一本筆記,對嗎?”
老波比沉默著。
你其實並不明白自己存在的意義是什麼,“楊洛敲了敲隔離罩,”“,看著我,回答我,機器人就註定比人類更優秀嗎?”
老波比思考著,一旁的監測資料顯示著它真實的想法。
它有些迷茫了。
楊洛繼續道: