機器人應(yīng)當(dāng)遵循哪些倫理原則？

早在 1942 年，美國著名科幻小說家、文學(xué)評論家 Isaac Asimov 用作品《我，機器人》給出了他心中的答案——「機器人學(xué)三定律」：

• 第一，機器人不得傷害人類，或坐視人類受到傷害；
• 第二，除非違背第一法則，機器人必須服從人類的命令；
• 第三，在不違背第一及第二法則的前提下，機器人必須保護自己。

后來作為補充，第零定律（機器人必須保護人類的整體利益不受傷害，其它三條定律都是在這一前提下才能成立）出現(xiàn)，此后這一理論被稱為現(xiàn)代機器人學(xué)的基石。

不過現(xiàn)實世界中，人們對機器人的應(yīng)用似乎并非如此。

最近，美國的一個惡搞組織將一把蒂普曼 98 彩彈槍綁在波士頓動力公司網(wǎng)紅機器狗 Spot 的身上，任其在畫廊里游蕩。

對此，波士頓動力發(fā)推進行了一番譴責(zé)，認(rèn)為這種博眼球的做法只會引發(fā)暴力、傷害或恐嚇。

Spot 架上彩彈槍

這一作品出自一個愛搞惡作劇的藝術(shù)/營銷團體 MSCHF，其英文發(fā)音正是 mischief（意為惡作劇）。

按《連線》雜志的話說就是：

一群惡搞者想要以一種反烏托邦的方式來展示機器人技術(shù)。

具體來講，MSCHF 設(shè)計了一個最新程序 Spot’s Rampage（鏈接：https://spotsrampage.com/），Spot’s Rampage 于美東時間 2021 年 2 月 24 日下午 1 點開放，其界面酷似一款小游戲，人們可以通過帶有兩個模擬搖桿的控制器，在一個虛擬藝術(shù)畫廊里控制被架上彩彈槍的 Spot，每人限時 2 分鐘。

此外據(jù)《連線》雜志報道，MSCHF 組織會定期發(fā)布一些惡作劇程序。

在 MSCHF 官網(wǎng)（鏈接：https://mschf.xyz/）上可以看到， Spot’s Rampage 是其最新惡作劇，編號為 40。

其網(wǎng)站頁面上共顯示有 85 個程序，剩余的 45 個程序都處于發(fā)布倒計時階段，未來 MSCHF 將以一個月 2 次的頻率發(fā)布新程序（均在周一發(fā)布），下一次程序發(fā)布定在 2021 年 3 月 15 日。

一直以來，MSCHF 的腦洞都不小：

• 創(chuàng)建過一款 APP，持續(xù)按住一個按鈕時間最長的用戶將獲得 2.5 萬美元獎勵；
• 開發(fā)了一款基于占星學(xué)的選股軟件；
• 將英國藝術(shù)家達(dá)米安·赫斯特的畫作切割開，再一點一點賣出去。

網(wǎng)友：真是諷刺

外媒 The Verge 報道了此次 MSCHF 對波士頓動力的 Spot 下手的原因——MSCHF 成員 Daniel Greenberg 表示：

人們看到 Spot 跳舞的視頻，通常都會覺得這只機器狗歡脫可愛，但如果我們真正想一想它在現(xiàn)實世界中的用途，就會發(fā)現(xiàn) Spot 的形象可以是警察或軍人。

對此，波士頓動力發(fā)推稱：

今天我們得知，一個藝術(shù)團體以充滿爭議的方式，用我們的機器狗 Spot 策劃了一場博眼球的活動。需要明確的是，我們譴責(zé)所有將我們的技術(shù)用于暴力、傷害或恐嚇的行為，我們的使命是創(chuàng)造和交付能力驚人的機器人，對社會產(chǎn)生激勵、愉悅等積極影響。

我們長期致力于確保客戶將機器人用于合法用途。在批準(zhǔn)出售之前，我們將所有申請購買機器人的名單與政府的個人、實體清單進行核對；買家須同意我們的銷售條款，其中就明確規(guī)定了我們的產(chǎn)品必須在遵守法律的前提下使用，且不能用于傷害或恐嚇人類和其他動物。

任何違反我們銷售條款的行為都將導(dǎo)致產(chǎn)品保修自動取消，機器人將不會再被更新、服務(wù)、維修、更換。

這種充滿挑釁意味的藝術(shù)在根本上歪曲了 Spot 便于我們?nèi)粘Ｉ畹氖聦崱?/p>

自然，這一事件引發(fā)了網(wǎng)友熱議。

一方面，有網(wǎng)友表示：

做出這樣行為的人真是可恥。

如果這些藝術(shù)團體成員是機器人的設(shè)計者，恐怕機器人早就統(tǒng)治世界了！波士頓動力公司和美國國防部高級研究計劃局（DARPA）顯然遵循了 Isaac Asimov 的機器人學(xué)三定律，只有這樣類似的機器人挑釁行為才不會發(fā)生。

另一方面，也有網(wǎng)友認(rèn)為：

波士頓動力的聲明真是諷刺，波士頓動力在把產(chǎn)品出售給警察和軍隊的時候就應(yīng)該明白，Spot 將會被用于暴力。

不管 MSCHF 的做法是否顯示出了濫用波士頓動力機器人技術(shù)的潛力，都不能否認(rèn)機器人可能會被濫用的事實。MSCHF 其實提出了一個有效的觀點：這項技術(shù)將被警察用來對付民眾。

推特網(wǎng)友 Elwood 稱：

如果這樣的行為不合法，那么汽車、頭盔、有機玻璃、牛仔褲都應(yīng)該被視為違法。天啊，能以一個成年人的思維方式想問題嗎？

在很多人記憶中，波士頓動力的網(wǎng)紅機器狗 Spot 會尬舞。

會放羊。

會測溫。

其實除了上述場景，Spot 也被用于美國執(zhí)法機構(gòu)。

據(jù)了解，Spot 率先被美國馬薩諸塞州警察局使用，最近也正在接受紐約警察局測試，即將上崗——而這一點正是不少網(wǎng)友認(rèn)為諷刺的地方。

此前知乎有一個問題是“如何解釋機器人三定律與軍事機器人之間的矛盾”，這個話題下的一條回答是：

不要用機器人三定律解釋現(xiàn)實世界產(chǎn)物。

那么，對于機器人倫理問題，你怎么看？