干(gan)(gan)人(ren)(ren)要有(you)標準(zhun)，沒(mei)有(you)能干(gan)(gan)的(de)事(shi)即使是(shi)上(shang)司請求還必定沒(mei)有(you)能干(gan)(gan)，這個事(shi)理誰都懂。那末(mo)假(jia)如將(jiang)情境轉換到機械人(ren)(ren)身上(shang)呢(ni)？它們(men)還必需無條件(jian)遵命人(ren)(ren)類的(de)敕令(ling)嗎？大多數人(ren)(ren)肯(ken)定會下意識(shi)的(de)以為，機械人(ren)(ren)就該以遵命為天職(zhi)，由于它們(men)是(shi)機械，設計之初便是(shi)要遵命人(ren)(ren)類敕令(ling)的(de)。沒(mei)有(you)過，想(xiang)想(xiang)你平常干(gan)(gan)的(de)那些傻(sha)事(shi)吧，假(jia)如沒(mei)有(you)假(jia)思索的(de)請求機械人(ren)(ren)照干(gan)(gan)，生怕得出很多亂(luan)子。

　　下面(mian)我們配合來看一些例(li)子(zi)：

　　1. 假如家中有臺智能幫助機(ji)器(qi)人專門(men)賣(mai)力賜顧(gu)幫襯老人生活，那末得(de)了健忘癥的(de)白叟(sou)可能會讓機(ji)器(qi)人干很多(duo)反復(fu)的(de)無用功，例如一件衣服一天洗個七(qi)八次；

　　2. 家庭中熊孩子大概會把(ba)日(ri)托機器(qi)人當(dang)玩具(ju)，下(xia)令它往窗外扔器(qi)材；

　　3. 門生大概會把功(gong)課甩為機器人完成；

　　4. 家政機械人在做菜時大概會被主(zhu)人叫去倒渣(zha)滓。

　　如許的(de)例子(zi)難(nan)更仆(pu)數，稍不(bu)謹慎，還(huan)(huan)許就會把(ba)本人(ren)還(huan)(huan)搞(gao)得驚慌失措。固然，以上這一(yi)些最(zui)多讓您吃到暗黑摒擋(dang)，但(dan)如果有暴(bao)徒唆使機器人(ren)犯法，生怕結果就比較嚴重(zhong)了。

　　那(nei)末(mo)人類該(gai)若(ruo)何防(fang)止因機器人服從命令而帶來的(de)費事呢？若(ruo)是居(ju)心叵(po)測(ce)的(de)人讓機器人拿起刀向前走，而它火線站著一(yi)個人怎么辦？生怕最好的(de)辦法要(yao)末(mo)是機器人停下不動，要(yao)末(mo)便(bian)是機器人回絕拿刀。

　　沒有過，無(wu)論是哪類(lei)法子，機(ji)器(qi)人(ren)(ren)皆需求事(shi)前(qian)探知本人(ren)(ren)后續(xu)行(xing)動會導致的結果并主(zhu)動做出是沒有是服從號令的挑選(xuan)。那(nei)末我們怎樣教機(ji)器(qi)人(ren)(ren)說“沒有”呢？

　　機器人如何了解下(xia)一(yi)步會發作(zuo)什么？

　　正在實(shi)驗室中，我(wo)們已入手(shou)下手(shou)開(kai)辟基于人(ren)類(lei)號令的(de)機器人(ren)控制體(ti)系，經過該(gai)體(ti)系，機器人(ren)就可以決意是不是實(shi)行人(ren)類(lei)號令（違(wei)背(bei)品(pin)德標準能(neng)夠回絕）。

　　不外，要想(xiang)教會機器人(ren)不服從可不是個(ge)容易(yi)事(shi)，究竟有些事(shi)的結(jie)果并不是肉眼能看到的。將球(qiu)扔出窗戶，也(ye)(ye)許會寧靜落(luo)在院(yuan)子里，也(ye)(ye)是有也(ye)(ye)許落(luo)在人(ren)潮不息的大街上，它會砸住人(ren)仍是砸到車（激發一系列(lie)連鎖反應(ying)）誰也(ye)(ye)說不清楚。

　　以如今的(de)(de)技能(neng)前提，機器人(ren)(ren)很(hen)難肯定究竟什么時(shi)候能(neng)扔球（玩接(jie)球游(you)戲能(neng)夠扔，扔出窗外(wai)不能(neng)夠）。別的(de)(de)，假如熊(xiong)孩子(zi)成心誘(you)騙機器人(ren)(ren)，偽裝本人(ren)(ren)要玩接(jie)球游(you)戲卻成心躲開，事情就(jiu)有大概沿相反的(de)(de)軌道進展。

　　傳授機(ji)器(qi)人品德和司法

　　要(yao)想讓(rang)機器(qi)人明(ming)白本身舉(ju)動(dong)(dong)也許(xu)導(dao)致的(de)(de)危險后果(guo)，就要(yao)讓(rang)它把握(wo)大(da)批的(de)(de)后臺常識（如果(guo)在(zai)窗前扔球也許(xu)會導(dao)致皮球飛出窗外）。機器(qi)人沒有但(dan)要(yao)權(quan)衡本身舉(ju)動(dong)(dong)導(dao)致的(de)(de)后果(guo)，還要(yao)思索人類(lei)收回(hui)某項指令的(de)(de)企圖。

　　而要想讓機器(qi)人明白體會人類龐雜指令（好心與(yu)否）的(de)意義，它(ta)們就要理解(jie)這一些指令可(ke)能(neng)會形(xing)成的(de)結(jie)果并與(yu)現有(you)的(de)社會品德和(he)法(fa)令舉行比對。

　　眼下，正在辦理機(ji)器(qi)人(ren)上我(wo)們有通用規(gui)則：“假如您被(bei)規(gui)定完成的義務(wu)可能會形(xing)成損害，就能夠(gou)斷交實行。”但如斯簡樸的描寫基礎不(bu)敷，為(wei)機(ji)器(qi)人(ren)擬定具體(ti)的義務(wu)和(he)權限(xian)事正在必行。

　　總的(de)來說，沒(mei)有(you)(you)做違法(fa)之(zhi)事(shi)是機器人(ren)的(de)基(ji)本(ben)原(yuan)則(ze)，但假如(ru)人(ren)類的(de)指令有(you)(you)題目，機器人(ren)還應(ying)該有(you)(you)說“沒(mei)有(you)(you)”的(de)權(quan)益。因而，機器人(ren)“大(da)腦”中必需裝有(you)(you)司法(fa)、品德乃至人(ren)類禮節，如(ru)許才氣聰慧(hui)的(de)回絕一(yi)些(xie)毛病指令。

　　雖(sui)然說(shuo)現有(you)的技能(neng)下(xia)機器人還很難取得以上(shang)才能(neng)，但我(wo)們(men)由目下(xia)當今(jin)就應(ying)該定下(xia)一(yi)個基調(diao)，那是機器人有(you)權說(shuo)“沒有(you)”。