2010年9月12日 星期日

機器人會說謊 恐潛藏危機

在電影「機械公敵」(I, Robot)中,原本受人類信賴的機器人,後來反過來欺騙傷害人類,這種情節未來有可能成真,因為美國軍方研究人員研發了會說謊的機器人。

英國「每日電訊報」(Daily Telegraph)報導,研究人員聲稱,有個新程式可讓機器人偵測出另一個機器人是否容易受騙,然後利用對方容易上當的特性來對它說謊。美國喬治亞理工學院(Georgia Institute of Technology)科學家表示,這種機器人可以用相同方法來欺騙人類。

機器人已可拆卸炸彈,以及把受傷的軍人帶離危險地區,如今這項突破可能會帶來軍事上的進步。

Georgia Tech Regents professor Ronald Arkin (left) and research engineer Alan Wagner conducted simulations and experiments as part of what is believed to be the first detailed examination of robot deception. (Georgia Tech Photo: Gary Meek)


科學家說,機器人對於說謊概念的體悟,能讓它們避免被抓到。但也有專家擔憂,這種科技可能會破壞大眾對機器人的印象,還可能會出現危險的發展,像是能用於追捕與賭博的機器人。
研究人員告訴「每日郵報」(Daily Mail):「機器人科學最大的問題之一,就是要取得大眾信任,如果機器人會說謊,那真的就是個問題。」

喬治亞理工學院研究人員的實驗,據信是第一個關於機器人說謊的詳盡測驗。研究團隊研發了電腦演算法,讓機器人能「決定」是否要對一個人或是另一個機器人說謊,並傳授機器人最不容易被發現的計謀。


研究人員利用兩個機器人,做了二十次的捉迷藏試驗。他們在機器人可能會藏匿的三條道路上,沿路排列彩色筆做為記號。躲起來的機器人(黑色)會隨機選擇躲藏位置,並沿途將彩色筆推倒。它一旦推倒彩色筆,便會改變方向躲在另一處,不過對找尋的機器人(紅色)來說,直立彩色筆的存在與否,表示躲藏機器人的位置。

黑色的機器人故意推倒色筆,藉以欺騙紅色的機器人他是藏在左側。相反的,黑色的機器人是躲在中間路徑的箱子中


研究人員說,會說謊的機器人在未來相當重要,尤其是用於軍事上。

在戰場上,擁有說謊能力的機器人能成功躲避並誤導敵人,以保護自己與重要資訊。

研究的作者之一、工程師華格納(Alan Wagner)說:「大部分的社交機器人可能很少使用謊言,但在機器人的互動工具中,這是個重要的工具,因為就結果來看,體認到有說謊必要的機器人,會比沒有體認到有說謊必要的機器人更占有優勢。」

為了要安撫恐慌的災民,或是取得他們的合作,搜救機器人可能需要欺騙人類。

研究結果發表於線上的「社會機器人國際期刊」(International Journal of Social Robotics)。

中央社 2010/09/11 張曉雯 譯

相關連結:

沒有留言:

張貼留言