給機器人做規矩要趕緊了?智慧機器人需要"約束"

上海交通大學機器人研究所最近完成了“助行機器人”的研發。這種像一部“智慧小車”的機器人（許多機器“人”其實並不是“人形”的），能自己識別道路，自行確定行駛路線……帶著行動困難或視力有障礙的人出行。

但這款機器人真要實際應用，甚至推向市場，障礙還很多：它應該遵守什麼交通規則？是針對行人的交通規則，還是機動車行駛規則？如果它造成了交通事故，該如何處理？上海交大機器人研究所常務副所長曹其新教授說：“這些問號已經讓我們糾結了很久。”

曾經在上海世博會露過面的另一些機器人，比如伴侶機器人、餐廳機器人、醫療機器人，一樣讓人糾結：如果它們在工作中出了差錯造成事故，該由誰負責？特別是，這些機器人都是“高智慧”的，有學習功能、能“自學成才”，也就是說，一段時間之後，它不再是出生時的它了；它會像人一樣，根據自己的所“見”所“想”自作主張——要是想法走偏瞎搞一氣怎麼辦？

人類創造了機器人，但機器人一旦擁有智慧，需要的就不僅僅是維護和修理，更得做規矩約束，要讓它的想法和行為合乎人類世界的倫理道德。

“機器人三原則”

“研究機器人，都知道‘機器人三原則’——1.機器人不能傷害人類，也不能眼看人類將要遇到傷害而袖手旁觀；2.機器人必須服從人的命令，除非這些命令與第一條原則相違背；3.機器人應該能保護自己，但與前兩條原則相違背的情況除外。”德國漢堡大學多模式技術研究所所長張建偉教授告訴記者，這三條原則，最早由美國科幻作家阿西莫夫在他寫于1942年的一個短篇小說中提出；後來，有的科學家加了“第零原則”——“機器人可以什麼都不做，除非他的行動符合三原則”，又有人加了“第四原則”——“機器人不得參與機器人的設計和製造，除非新的機器人的行為能服從三原則。”不過，大家廣泛認同的還是“機器人三原則”。

“機器人三原則”已經實際應用。

曹其新教授介紹說，對於機器人用於醫療領域和研發醫療機器人，目前美國未加限制，歐洲定了一些規矩，而日本根據“機器人三原則”，明確禁止。這類機器人直接跟人的生命打交道，倫理問題最為突出：它具備人工智慧，可以自主學習並獨立手術，但如果“學藝不精”出了事故，那是不是意味著沒有遵守“三原則”？或者，機器人在手術時發現患者病入膏肓、已沒有繼續手術的必要，因此不做了，那又如何評判這種行為的對錯？曹教授說，“倫理道德還不完善”的機器人，不適合用在敏感領域。

其實，現在大多數用於醫療的機器人，並不是智慧機器人，都需要人工操作，可以說是一種高端醫療器械。

有智慧就複雜了

隨著智慧機器人研發的不斷進展，當機器人也會有想法時，問題就複雜了。

今年5月初，歐盟評出了對未來影響最大的六項技術，其中一項是伴侶機器人。科學家們紛紛預言，不久的將來，家家戶戶都會有個機器人。

當伴侶機器人成為家庭一員，這些能自主學習、自己成長，能像人一樣思考和做決定，而行動能力比人更勝一籌的傢夥，需要遵守哪些規矩？機器人的倫理道德，逐漸成為學界關注的熱點。

不久前，上海交通大學主辦了全球機器人大會，收到好幾篇探討機器人倫理道德的論文。而據說在過去的會議上，這類論文幾乎沒有。前來參會的日本東北大學教授小菅一弘介紹，機器人研發領域的國際頂級期刊今年1月專門出了一期專刊，主題就是“RobotEthics”，這一前沿課題的幾位重要學者都發表了文章。他還說，日本2002年就在福岡市嘗試製訂了針對機器人的交通規則，福岡由此成為全球第一個機器人可以上路行走的城市。

南韓和一些歐洲國家表示，有意制訂“機器人道德法”，以此作為機器人研製者、使用者以及機器人本身的道德倫理規範和行為準則；它對機器人產業將有重大指導作用，“機器人道德法”的各項規定將編寫成電腦程式，安裝于機器人。

還有科學家提出，人的大腦的某些部分如果損傷，今後可以用晶片修復；如果晶片對人腦原有“部件”的替換率達到一定程度，這樣的人該怎麼定義？“機器人道德法”對他們是不是也部分適用？

美國著名的神經科學家尼科萊利斯(Miguel Nicolelis)在他最新發表的一篇論文中提出：“這些都已是科學界應該思考的問題。”

但願不再“亡羊補牢”

中科院微電子研究所所長、國家“02”重大專項專家組組長葉甜春研究員說，就目前的技術水準來說，讓機器人自己作倫理道德判斷並不可行。現在的技術還只能對機器人發出非常明確的指示，或者讓機器人根據明確的標準作出“是”與“非”的判斷，而倫理道德顯然是一種複雜判斷、模糊判斷，機器人還處理不了。但葉甜春指出，隨著技術快速發展和家用機器人出現，機器人的倫理道德我們必須關注，“千萬不能等出問題了，再亡羊補牢”。

目前，國內研究機器人倫理道德的學者寥寥無幾。曹其新教授說，現在學界很看好第三代機器人技術，這種被稱為“泛在機器人”即“無所不在的機器人”的有智慧的傢夥，可以識別人的聲音指示，甚至能學會對主人察言觀色，滿足主人的需求……可是，“我們如何保證機器人的判斷和行為符合人類倫理道德，包括保證它不為了滿足主人的要求而違背人類倫理道德呢？當家用機器人普及之時，再去關注和思考這些事，將為時已晚。”


文匯報 2011/06/07  姜澎

相關連結

• Beyond Boundaries: The New Neuroscience of Connecting Brains with Machines---and How It Will Change Our Lives, by Miguel Nicolelis, ISBN 978-0805090529 (Amazon)
•  Beyond Boundaries