美國科學家研發會拒絕人類命令的機器人

*【環球科技綜合報道】*據美國財經資訊網站QUARTZ 11月25日報道，美國馬薩諸塞州的研究者們試圖做一件科幻電影裏預言的場景，即指導機器人對某些指示做出相應拒絕。塔夫特實驗小組也已提出相關策略，教會機器人識別特定情況，適時説“不”。

通常來講，機器人是應該始終對人類的指示唯命是從的。當然，在汽車生產線上，對於一些對人類有潛在危險的工具，機器人是可以幫助進行遊刃有餘的進行操作。但是，每天我們也都在研究更新更加智能的機器人，讓它們有能力來作出判斷。這便帶來了一個棘手的問題，怎樣在程序中設置一項機器人的思維反應，可以讓它們在不對自己和人類有害的前提下，作出正確的選擇。

這也是美國塔夫斯大學人機交互實驗室要研究解決的問題。他們也已經提出了相關策略來指導機器人智能應對人類指示。此種策略與人類大腦在接收到話語指示時的運行類似。在你要被指示做某事時，將會有一系列關於信任與道德的問題要思考。比如説，“我知道要怎麼操作嗎？”，“這件事是否在我工作範圍內？”以及確認“要做這件事的話，我是否違背了正常的規則？”並且最後的關鍵的一點是，一定不要傷害人類以及相關財產安全。

塔夫特實驗小組將人類的一些內心獨白簡化為一系列邏輯論證，內置於機器人相關軟件中加以識別。例如，在試驗中，當命令機器人直直的朝一扇牆走去時，他果斷拒絕，因為它自己識別到了該指示會帶來危險。這項進展也着實令人欣慰。

最近谷歌的自動駕駛汽車顯示，機器道德越來越成為一個嚴重的問題。這些自動駕駛汽車都安裝有機器人設備，在開闊道路上，如果它們盲目的遵循設定指示時，遇到複雜棘手的路況時，便會給乘客帶來危險。

如果你有幸與塔夫特實驗組一起工作，你就可以見證機器人是如何思考，並且目睹在指示不合常理，有望傷人的情況下，它們是怎樣義正言辭的説出“對不起，我不能這樣做!”。 (實習編譯：郭柯 審稿：陳薇)