機器人學三大法則:
一、機器人不得傷害人類,或因不作為而使人類受到傷害。
二、除非違背第一法則,機器人必須服從人類的命令。
三、在不違背第一及第二法則的情況下,機器人必須保護自己。
一
凱斯?哈裏曼在美國機器人與機械人公司已經當了十二年的研究部主任,現在,他覺得根本無法確定自己做得是否正確。他伸出舌尖,舔了舔肥厚卻頗為蒼白的嘴唇。偉大的蘇珊?凱文的全息像正毫無笑容地俯視他,那張臉孔看來似乎從未像今天這麽冷峻。
平時,他會遮起這位曆史上最偉大的機器人學家,因為她使他神經緊張。(他試圖將這個影像想成“它”,但從未真正成功。)這回他不太敢那麽做,於是,她那早已作古的目光遂刺穿他的臉頰。
他必須走出的那一步,既可怕又自貶身價。
坐在他對麵的是喬治第十,他顯得分外平靜。無論是哈裏曼明顯的不安,或是上方壁龕中那位機器人學守護神的明亮影像,皆未對他造成絲毫影響。
哈裏曼說:“真的,喬治,我們還沒有機會好好談談這個問題。你和我們在一起還沒多久,我一直找不到好機會跟你獨處。但是現在,我希望做一次詳盡的討論。”
“我萬分樂意這樣做,”喬治說,“待在美國機器人公司這段期間,我已經推測到這個危機和三大法則有關。”
“是的。當然,你知道三大法則是什麽。”
“我知道。”
“是的,我確定你知道。但讓我們再深入些,考慮那個真正基本的問題。過去兩個世紀,或許我可以說,美國機器人公司的成就非凡,但我們始終未能說服人類接受機器人。我們製造的機器人,隻能用在人力無法勝任的工作場所,或是人類覺得太過危險的環境中。機器人一向主要是在太空工作,這限製了我們本來能做到的事。”