1法則提出
阿西莫夫的《我,機(jī)器人》,在一九五〇年末由格諾姆出版社出版。雖說(shuō)這本書(shū)是“舊稿子”,但是這些短篇是在十年間零零散散發(fā)表的,這次集中出版,使讀者第一次領(lǐng)略阿西莫夫機(jī)器人科幻小說(shuō)的魅力。阿西莫夫?yàn)檫@本書(shū)新寫(xiě)了《引言》,而《引言》的小標(biāo)題就是《機(jī)器人學(xué)的三大法則》,把“機(jī)器人學(xué)三大法則”放在了最突出、最醒目的地位。
而三大法則之間的互相約束,為后世的創(chuàng)作有一定的指導(dǎo)意義。
機(jī)器人三定律(ThreeLawsofRobotics)是科幻小說(shuō)家艾薩克·阿西莫夫在他的機(jī)器人相關(guān)作品和其他機(jī)器人相關(guān)小說(shuō)中為機(jī)器人設(shè)定的行為準(zhǔn)則,是阿西莫夫除“心理史學(xué)”外另一個(gè)著名的虛構(gòu)學(xué)說(shuō):
第一法則:機(jī)器人不得傷害人類(lèi),或袖手旁觀坐視人類(lèi)受到傷害;
第二法則:除非違背第一法則,機(jī)器人必須服從人類(lèi)的命令;
第三法則在不違背第一及第二法則下,機(jī)器人必須保護(hù)自己。
但在1985年,《機(jī)器人與帝國(guó)》這本書(shū)中,阿西莫夫?qū)⑷蠓▌t擴(kuò)張為四大法則:
第零法則機(jī)器人不得傷害人類(lèi)整體,或袖手旁觀坐視人類(lèi)整體受到傷害;
第一法則除非違背第零法則,機(jī)器人不得傷害人類(lèi),或袖手旁觀坐視人類(lèi)受到傷害;
第二法則除非違背第零或第一法則,機(jī)器人必須服從人類(lèi)的命令;
第三法則在不違背第零至第二法則下,機(jī)器人必須保護(hù)自己。
“機(jī)器人三定律”在他于1942年發(fā)表的作品Runaround(《轉(zhuǎn)圈圈》,《我,機(jī)械人》中的一個(gè)短篇)中第一次明確提出,并且成為他的很多小說(shuō),包含基地系列小說(shuō)中機(jī)器人的行為準(zhǔn)則和故事發(fā)展的線索。機(jī)器人被設(shè)計(jì)為遵守這些準(zhǔn)則,違反準(zhǔn)則會(huì)導(dǎo)致機(jī)器人受到不可恢復(fù)的心理?yè)p壞。但是在某些場(chǎng)合,這樣的損壞是不可避免的。在兩個(gè)人互相造成傷害時(shí),機(jī)器人不能任人受到傷害而無(wú)所作為,但是這會(huì)造成對(duì)另一個(gè)人的傷害,在一些小說(shuō)中這造成了機(jī)器人的自毀。
他在小說(shuō)中提出了三定律的很多變體。這些對(duì)機(jī)器人行為準(zhǔn)則的修改成為他的很多故事的主線。在LittleLostRobot(《消失無(wú)蹤》,《我,機(jī)械人》中的一個(gè)短篇)中為了避免機(jī)器人無(wú)謂地阻止人類(lèi)進(jìn)行低危險(xiǎn)性工作,第一定律中的后半部分被去掉了,但是也產(chǎn)生了一些其他的問(wèn)題。在RobotDreams(《機(jī)械人之夢(mèng)》,同名小說(shuō)中的一個(gè)短篇)中,一個(gè)機(jī)器人做了個(gè)關(guān)于取消第一定律和第二定律的夢(mèng),導(dǎo)致了他的毀滅。在機(jī)器人與帝國(guó)中,一些機(jī)器人的系統(tǒng)中“人類(lèi)的定義”被修改(說(shuō)話沒(méi)有該星球的口音就不是人類(lèi)),而攻擊人類(lèi)。在科幻電影BicentennialMan(《雙百人》,原為短篇小說(shuō),后改編為中篇小說(shuō)《正子人》)中,一個(gè)機(jī)器人為了成為人,將自己的機(jī)械部分逐步替換成組織,并且在最后用自己的貢獻(xiàn)和犧牲換來(lái)了人類(lèi)的認(rèn)同和保護(hù)機(jī)器人的法律的產(chǎn)生。
三定律在科幻小說(shuō)中大放光彩,在一些其他作者的科幻小說(shuō)中的機(jī)器人也遵守這三條定律。同時(shí),三定律也具有一定的現(xiàn)實(shí)意義,在三定律基礎(chǔ)上建立新興學(xué)科“機(jī)械倫理學(xué)”旨在研究人類(lèi)和機(jī)械之間的關(guān)系。雖然截至2006年,三定律在現(xiàn)實(shí)機(jī)器人工業(yè)中沒(méi)有應(yīng)用,但很多人工智能和機(jī)器人領(lǐng)域的技術(shù)專(zhuān)家也認(rèn)同這個(gè)準(zhǔn)則,隨著技術(shù)的發(fā)展,三定律可能成為未來(lái)機(jī)器人的安全準(zhǔn)則。
下面是大部分人對(duì)此的評(píng)價(jià)三定律加上零定律,看來(lái)堪稱(chēng)完美,但是,“人類(lèi)的整體利益”這種混沌的概念,連人類(lèi)自己都搞不明白,更不要說(shuō)那些用0和1來(lái)想問(wèn)題的機(jī)器人了。威爾·史密斯曾說(shuō):“《我,機(jī)器人》的中心概念是機(jī)器人沒(méi)有問(wèn)題,科技本身也不是問(wèn)題,人類(lèi)邏輯的極限才是真正的問(wèn)題。”
而且,在此之后,羅杰·克拉克添加了以下的定律:元定律:機(jī)器人可以什么也不做,除非它的行動(dòng)符合機(jī)器人學(xué)定律。此定律置于第零、第一、第二、第三定律之前。第四定律:機(jī)器人必須履行內(nèi)置程序所賦予的責(zé)任,除非這與其他高階的定律沖突。繁殖定律:機(jī)器人不得參與機(jī)器人的設(shè)計(jì)和制造,除非新的機(jī)器人的行動(dòng)服從機(jī)器人學(xué)定律。
2傳播發(fā)展
從1941年的短篇科幻小說(shuō)《推理》開(kāi)始,阿西莫夫就在“三大法則”的框架下創(chuàng)作了一系列短篇機(jī)器人科幻小說(shuō)。他熟練運(yùn)用“三大法則”,在機(jī)器人有可能違背法則的前提下逐漸展開(kāi)故事。這些短篇故事極具邏輯性,情節(jié)緊湊,扣人心弦,后來(lái)大都被收錄在《我,機(jī)器人》(1950)和《其他機(jī)器人》(1964)這兩本科幻小說(shuō)集中。在嘗試了一系列短篇小說(shuō)之后,阿西莫夫又創(chuàng)作了機(jī)器人長(zhǎng)篇科幻小說(shuō),分別是《鋼窟》(又譯《鋼穴》)(1953)和《裸日》(1957),內(nèi)容都涉及人類(lèi)偵探與機(jī)器人偵探聯(lián)手破案的傳奇故事,被譽(yù)為科幻與推理相結(jié)合的典范。
有了“三大法則”,阿西莫夫筆下的機(jī)器人就不再是“欺師滅祖”、“犯上作亂”的反面角色,而是人類(lèi)忠實(shí)的奴仆和朋友。不過(guò)高度智能化的機(jī)器人還是會(huì)產(chǎn)生各種心理問(wèn)題,需要人類(lèi)協(xié)助解決,這正是機(jī)器人故事的基礎(chǔ)。阿西莫夫所向往的,是人類(lèi)為代表的“碳文明”與機(jī)器人為代表的“硅文明”的共存共生。在阿西莫夫的另一篇優(yōu)秀作品《二百歲人》(1976)中,他的這一思想表露得淋漓盡致。
隨著《我,機(jī)器人》產(chǎn)生廣泛的影響,阿西莫夫的“機(jī)器人學(xué)三大法則”也引起廣泛的注意,以至今日不少論著在論及“機(jī)器人學(xué)三大法則”時(shí),總是寫(xiě)道:“一九五○年阿西莫夫在《我,機(jī)器人》一書(shū)中首次提出‘機(jī)器人學(xué)三大法則’。”實(shí)際上,阿西莫夫著名的“機(jī)器人學(xué)三大法則”,醞釀?dòng)谝痪潘摹鹉昴?,部分發(fā)表于一九四一年五月,完整提出于一九四一年十月。
《我,機(jī)器人》收入九個(gè)短篇機(jī)器人科幻小說(shuō)。這些小說(shuō),彼此關(guān)聯(lián),是用三個(gè)人物貫穿。這三個(gè)人物是機(jī)器人工程師唐納文、鮑威爾和機(jī)器人心理學(xué)家蘇珊·卡爾文。故事常常是在一位名叫勞倫斯·羅伯遜的人于一九八二年創(chuàng)立的“美國(guó)機(jī)器人與機(jī)械人公司”這樣的背景下展開(kāi)。正是因?yàn)橛泄餐娜宋镓灤?,使《我,機(jī)器人》中的九個(gè)短篇不是各自獨(dú)立、互不相干,而是成為系列小說(shuō)。
在阿西莫夫創(chuàng)作一系列機(jī)器人短篇科幻小說(shuō)并提出“機(jī)器人學(xué)三大法則”時(shí),世界上還沒(méi)有機(jī)器人,當(dāng)然也沒(méi)有機(jī)器人學(xué)和機(jī)器人公司。一九五九年,美國(guó)英格伯格和德沃爾制造出世界上第一臺(tái)工業(yè)機(jī)器人,宣告機(jī)器人從科學(xué)幻想變?yōu)楝F(xiàn)實(shí)。隨著機(jī)器人技術(shù)的不斷進(jìn)步,隨著機(jī)器人的用途日益廣泛,阿西莫夫的“機(jī)器人學(xué)三大法則”越來(lái)越顯示智者的光輝,以至有人稱(chēng)之為“機(jī)器人學(xué)的金科玉律”。
3零定律
后來(lái)又出現(xiàn)了補(bǔ)充的“機(jī)器人零定律”:
第零定律:機(jī)器人必須保護(hù)人類(lèi)的整體利益不受傷害,其它三條定律都是在這一前提下才能成立。
出現(xiàn)
在《機(jī)器人與帝國(guó)》中,“機(jī)器人系列”前三部的主人公伊利亞·貝萊在臨終前對(duì)機(jī)器人R·丹尼爾說(shuō)道:“個(gè)別人的死亡是無(wú)所謂的。一個(gè)人生路,留下的工作后人會(huì)繼承。從這個(gè)意義上來(lái)說(shuō),他沒(méi)有死。只要人類(lèi)存在一天,人類(lèi)的事業(yè)就不會(huì)結(jié)束。每一個(gè)人的工作,結(jié)合成人類(lèi)整體的一部分,因此,就成了整體的一部分。整體存在,他的那一部分也就存在。全人類(lèi)的生命——過(guò)去的、現(xiàn)代的和將來(lái)的——匯成了永不停息的生命的長(zhǎng)河,并將變得越來(lái)越壯麗。一個(gè)人的生命,只是這生命長(zhǎng)河中的一滴水。”丹尼爾就是據(jù)此將第一定律擴(kuò)展為第零定律。
意義
為什么后來(lái)要定出這條“零定律”呢?打個(gè)比方,為了維持國(guó)家或者說(shuō)世界的整體秩序,我們制定法律,必須要執(zhí)行一些人的死刑。這種情況下,機(jī)器人該不該阻止死刑的執(zhí)行呢?顯然是不允許的,因?yàn)檫@樣就破壞了我們維持的秩序,也就是傷害了人類(lèi)的整體利益。“第零定律”的重要性在于地位凌駕其它三大定律,如若有個(gè)機(jī)器人為保護(hù)人類(lèi)整體(維護(hù)第零定律),必須殺害一個(gè)人或一群人(抵觸第一定律),機(jī)器人的正子程式為了人類(lèi)整體著想就會(huì)同意謀殺罪行。
定律的完善整合
所以新的阿西莫夫的機(jī)器人定律為:
第零定律:機(jī)器人必須保護(hù)人類(lèi)的整體利益不受傷害。
第一定律:機(jī)器人不得傷害人類(lèi)個(gè)體,或者目睹人類(lèi)個(gè)體將遭受危險(xiǎn)而袖手不管,除非這違反了機(jī)器人學(xué)第零定律。
第二定律:機(jī)器人必須服從人給予它的命令,當(dāng)該命令與第零定律或者第一定律沖突時(shí)例外。
第三定律:機(jī)器人在不違反第零、第一、第二定律的情況下要盡可能保護(hù)自己的生存。
評(píng)價(jià)
三定律加上零定律,看來(lái)堪稱(chēng)完美,但是,“人類(lèi)的整體利益”這種混沌的概念,連人類(lèi)自己都搞不明白,更不要說(shuō)那些用0和1來(lái)想問(wèn)題的機(jī)器人了。威爾·史密斯曾說(shuō):“《我,機(jī)器人》的中心概念是機(jī)器人沒(méi)有問(wèn)題,科技本身也不是問(wèn)題,人類(lèi)邏輯的極限才是真正的問(wèn)題。”
4補(bǔ)充修改
阿西莫夫之后,人們不斷提出對(duì)機(jī)器人三原則的補(bǔ)充、修正。
保加利亞科幻作家LyubenDilov1974年在小說(shuō)《Icarus'sWay》中提出第四原則:
第四原則:機(jī)器人在任何情況下都必須確認(rèn)自己是機(jī)器人。
1989年美國(guó)科幻作家HarryHarrison在《Foundation'sFriends》中又提出另一個(gè)第四原則:
第四原則:機(jī)器人必須進(jìn)行繁殖,只要進(jìn)行繁殖不違反第一原則、第二原則或者第三原則。
保加利亞科幻作家NikolaKesarovski在《TheFifthLawofRobotics》(1983年)中又提出一個(gè)與LyubenDilov第四原則看似相似實(shí)則不同的第五原則:
第五原則:機(jī)器人必須知道自己是機(jī)器人。
這些補(bǔ)充的確有其發(fā)生的理由,但普遍存在的一個(gè)問(wèn)題是補(bǔ)充本身的必要性和必然性。要知道,阿西莫夫三原則指出了機(jī)器人學(xué)的三個(gè)基本規(guī)范(或者“規(guī)律”),更具體的規(guī)范必須建立在這些基本規(guī)范的基礎(chǔ)之上。怎樣劃分一個(gè)規(guī)范是具體規(guī)范還是基本規(guī)范?如果是基本規(guī)范,又怎樣確定它在基本規(guī)范體系中的位置(為什么它是“第四”原則,而另一個(gè)又是“第五”原則?)?客觀地說(shuō),前述幾個(gè)“第四”、“第五“原則的內(nèi)容并不能使自己成為第四原則、第五原則,既看不出它們何以成為原則,也看不出何以如此排序。這些原則的提出,多半是適應(yīng)小說(shuō)情節(jié)的需要,在小說(shuō)中固然言之成理,但卻不必過(guò)份拘泥。很顯然,這幾個(gè)補(bǔ)充原則的出發(fā)點(diǎn)是小說(shuō)情節(jié)的需要,并不是機(jī)器人三原則本身的內(nèi)容。而從三原則的內(nèi)容出發(fā)對(duì)三原則加以補(bǔ)充、修改,這樣的工作人們已經(jīng)做過(guò),并產(chǎn)生過(guò)很多嚴(yán)肅的討論文章。這里只舉羅杰·克拉克為例,他構(gòu)思的機(jī)器人原則是:
元原則:機(jī)器人不得實(shí)施行為,除非該行為符合機(jī)器人原則。
第零原則:機(jī)器人不得傷害人類(lèi)整體,或者因不作為致使人類(lèi)整體受到傷害。
第一原則:除非違反高階原則,機(jī)器人不得傷害人類(lèi)個(gè)體,或者因不作為致使人類(lèi)個(gè)體受到傷害。
第二原則:機(jī)器人必須服從人類(lèi)的命令,除非該命令與高階原則抵觸。
機(jī)器人必須服從上級(jí)機(jī)器人的命令,除非該命令與高階原則抵觸。
第三原則:如不與高階原則抵觸,機(jī)器人必須保護(hù)上級(jí)機(jī)器人和自己之存在。
第四原則:除非違反高階原則,機(jī)器人必須執(zhí)行內(nèi)置程序賦予的職能。
繁殖原則:機(jī)器人不得參與機(jī)器人的設(shè)計(jì)和制造,除非新機(jī)器人的行為符合機(jī)器人原則。
5繁殖原則
羅杰·克拉克把最后一個(gè)原則命名為“繁殖原則”,而沒(méi)有稱(chēng)為“第五原則”,是有道理的;僅就其內(nèi)容看,的確很難確定這一個(gè)原則到底應(yīng)該放到什么位置上。他把機(jī)器人按履行內(nèi)置職能放在執(zhí)行人類(lèi)命令之后,認(rèn)為服從人類(lèi)命令優(yōu)先于執(zhí)行本職工作,總體上也無(wú)問(wèn)題。但把機(jī)器人保護(hù)自身存在置于執(zhí)行本職工作之前,頗有值得商榷之處。此外,這些原則除調(diào)整人與機(jī)器人的關(guān)系之外,還涉及機(jī)器人之間的部分關(guān)系,這是超出原有原則范圍的內(nèi)容。
6涉及電影
美國(guó)演員威爾史密斯的《機(jī)器公敵》提到過(guò)機(jī)器人三大定律。
美劇《生活大爆炸》中提及。
《機(jī)器人管家》(或《變?nèi)恕罚┲杏刑峒啊?/p>
7發(fā)展史
20世紀(jì)
1920年捷克斯洛伐克作家卡雷爾·恰佩克在他的科幻小說(shuō)《羅薩姆的機(jī)器人萬(wàn)能公司》中,根據(jù)Robota(捷克文,原意為“勞役、苦工”)和Robotnik(波蘭文,原意為“工人”),創(chuàng)造出“機(jī)器人”這個(gè)詞。
1939年美國(guó)紐約世博會(huì)上展出了西屋電氣公司制造的家用機(jī)器人Elektro。它由電纜控制,可以行走,會(huì)說(shuō)77個(gè)字,甚至可以抽煙,不過(guò)離真正干家務(wù)活還差得遠(yuǎn)。但它讓人們對(duì)家用機(jī)器人的憧憬變得更加具體。
1942年美國(guó)科幻巨匠阿西莫夫提出“機(jī)器人學(xué)三大法則”。雖然這只是科幻小說(shuō)里的創(chuàng)造,但后來(lái)成為學(xué)術(shù)界默認(rèn)的研發(fā)原則。
1948年諾伯特·維納出版《控制論》,闡述了機(jī)器中的通信和控制機(jī)能與人的神經(jīng)、感覺(jué)機(jī)能的共同規(guī)律,率先提出以計(jì)算機(jī)為核心的自動(dòng)化工廠。
1954年美國(guó)人喬治·德沃爾制造出世界上第一臺(tái)可編程的機(jī)器人,并注冊(cè)了專(zhuān)利。這種機(jī)械手能按照不同的程序從事不同的工作,因此具有通用性和靈活性。
1956年在達(dá)特茅斯會(huì)議上,馬文·明斯基提出了他對(duì)智能機(jī)器的看法:智能機(jī)器“能夠創(chuàng)建周?chē)h(huán)境的抽象模型,如果遇到問(wèn)題,能夠從抽象模型中尋找解決方法”。這個(gè)定義影響到以后30年智能機(jī)器人的研究方向。
1959年德沃爾與美國(guó)發(fā)明家約瑟夫·英格伯格聯(lián)手制造出第一臺(tái)工業(yè)機(jī)器人。隨后,成立了世界上第一家機(jī)器人制造工廠——Unimation公司。由于英格伯格對(duì)工業(yè)機(jī)器人的研發(fā)和宣傳,他也被稱(chēng)為“工業(yè)機(jī)器人之父”。
1962年美國(guó)AMF公司生產(chǎn)出“VERSTRAN”(意思是萬(wàn)能搬運(yùn)),與Unimation公司生產(chǎn)的Unimate一樣成為真正商業(yè)化的工業(yè)機(jī)器人,并出口到世界各國(guó),掀起了全世界對(duì)機(jī)器人和機(jī)器人研究的熱潮。
1962年——1963年傳感器的應(yīng)用提高了機(jī)器人的可操作性。人們?cè)囍跈C(jī)器人上安裝各種各樣的傳感器,包括1961年恩斯特采用的觸覺(jué)傳感器,托莫維奇和博尼1962年在世界上最早的“靈巧手”上用到了壓力傳感器,而麥卡錫1963年則開(kāi)始在機(jī)器人中加入視覺(jué)傳感系統(tǒng),并在1965年,幫助MIT推出了世界上第一個(gè)帶有視覺(jué)傳感器,能識(shí)別并定位積木的機(jī)器人系統(tǒng)。
1965年約翰·霍普金斯大學(xué)應(yīng)用物理實(shí)驗(yàn)室研制出Beast機(jī)器人。Beast已經(jīng)能通過(guò)聲納系統(tǒng)、光電管等裝置,根據(jù)環(huán)境校正自己的位置。20世紀(jì)60年代中期開(kāi)始,美國(guó)麻省理工學(xué)院、斯坦福大學(xué)、英國(guó)愛(ài)丁堡大學(xué)等陸續(xù)成立了機(jī)器人實(shí)驗(yàn)室。美國(guó)興起研究第二代帶傳感器、“有感覺(jué)”的機(jī)器人,并向人工智能進(jìn)發(fā)。
1968年美國(guó)斯坦福研究所公布他們研發(fā)成功的機(jī)器人Shakey。它帶有視覺(jué)傳感器,能根據(jù)人的指令發(fā)現(xiàn)并抓取積木,不過(guò)控制它的計(jì)算機(jī)有一個(gè)房間那么大。Shakey可以算是世界第一臺(tái)智能機(jī)器人,拉開(kāi)了第三代機(jī)器人研發(fā)的序幕。
1969年日本早稻田大學(xué)加藤一郎實(shí)驗(yàn)室研發(fā)出第一臺(tái)以雙腳走路的機(jī)器人。加藤一郎長(zhǎng)期致力于研究仿人機(jī)器人,被譽(yù)為“仿人機(jī)器人之父”。日本專(zhuān)家一向以研發(fā)仿人機(jī)器人和娛樂(lè)機(jī)器人的技術(shù)見(jiàn)長(zhǎng),后來(lái)更進(jìn)一步,催生出本田公司的ASIMO和索尼公司的QRIO。
1973年世界上第一次機(jī)器人和小型計(jì)算機(jī)攜手合作,就誕生了美國(guó)CincinnatiMilacron公司的機(jī)器人T3。
1978年美國(guó)Unimation公司推出通用工業(yè)機(jī)器人PUMA,這標(biāo)志著工業(yè)機(jī)器人技術(shù)已經(jīng)完全成熟。PUMA至今仍然工作在工廠第一線。
1984年英格伯格再推機(jī)器人Helpmate,這種機(jī)器人能在醫(yī)院里為病人送飯、送藥、送郵件。同年,他還預(yù)言:“我要讓機(jī)器人擦地板,做飯,出去幫我洗車(chē),檢查安全”。
1998年丹麥樂(lè)高公司推出機(jī)器人(Mind-storms)套件,讓機(jī)器人制造變得跟搭積木一樣,相對(duì)簡(jiǎn)單又能任意拼裝,使機(jī)器人開(kāi)始走入個(gè)人世界。
1999年日本索尼公司推出犬型機(jī)器人愛(ài)寶(AIBO),當(dāng)即銷(xiāo)售一空,從此娛樂(lè)機(jī)器人成為機(jī)器人邁進(jìn)普通家庭的途徑之一。
21世紀(jì)
2002年美國(guó)iRobot公司推出了吸塵器機(jī)器人Roomba,它能避開(kāi)障礙,自動(dòng)設(shè)計(jì)行進(jìn)路線,還能在電量不足時(shí),自動(dòng)駛向充電座。Roomba是目前世界上銷(xiāo)量最大、最商業(yè)化的家用機(jī)器人。
2006年6月,美國(guó)微軟公司推出MicrosoftRoboticsStudio,機(jī)器人模塊化、平臺(tái)統(tǒng)一化的趨勢(shì)越來(lái)越明顯,比爾·蓋茨預(yù)言,家用機(jī)器人很快將席卷全球。
內(nèi)容來(lái)自百科網(wǎng)