科学家造“骗人型”机器人引发争议

顾汉现

科学家造“骗人型”机器人引发争议


发布时间：2010-9-13 11:30:44


科学家造“骗人型”机器人引发争议





亚金教授(左)和同事让两个机器人玩“躲猫猫”游戏。

在美国经典科幻电影《2001：太空奥德赛》中，宇宙飞船上一台名叫“哈尔”的智能电脑出现“妄想狂”故障，劫持飞船并设计杀死了4名机组人员，最后一名幸存宇航员设法战胜了哈尔。这也许只是科幻电影中的场景，然而美国科学家已经设计发明出了能够欺骗其他机器人、甚至欺骗人类的智能机器人。

亚特兰大市佐治亚州理工学院的科学家亚金教授率领的研究小组已经编写出一种计算机运算法则，这一高科技程序能让机器人自主决定它是否面临危险，以及是否应该通过欺骗另一个机器人或一个人的方式让自己安全躲藏起来，不被别人发现。

为了防止机器人滥用“欺骗行为”，机器人必须要满足两个必要条件后，才能获得行使“欺骗行为”的授权。第一个条件是和寻找它的机器人之间必须有冲突，第二个条件是可以从它的欺骗行为中获益。

科学家为了测试他们的高科技电脑程序，让两个自动机器人进行了20次“躲猫猫”游戏，实验地点有3个可以让机器人藏身的地方。那个安装了最新“欺骗程序”的机器人在游戏中，多次顺利通过欺骗行为躲过另一个机器人的寻找。

“骗人型”机器人的问世在科学界引发巨大争议，因为这意味着人类的安全将受到潜在威胁。不过科学家称，“骗人型”机器人在军事上具有重要用途，因为它们将能在战场上设下迷魂阵欺骗敌人。