警惕AI自我觉醒


他们说,国际象棋中没有暴力,除非你的对手是一名机器人。

近期,在莫斯科举行的莫斯科国际象棋公开赛上,一名7岁的国际象棋棋手被机器人折断了手指。报道一出无数媒体闻风而动,一时间关于这件事的传闻甚嚣尘上吸引无数目光。

其中一篇文章中写道“机器人因人类棋手违反规则感到恐慌,遂夺下男孩手中棋子并死死抓住男孩手指,并导致男孩手指骨折”。对机器人进行如此智能的行为动作的描写,令人一瞬间就产生了机器人已经自我觉醒的恐慌。

而事实真的如此吗? 视频中可以看到,机器人先拿走了男孩的棋子,接着要挪动己方棋子放置在该位置时,男孩提前移动棋子放在了机器人将要落子的位置,意为将机器人还未放下的棋子“吃掉”,而机器人仍固执的要将棋子落在该位置上。于是机器人的棋子正好落在男孩执棋的手上,男孩的手指就被夹在了黑棋和白棋的中间。 如此“双向奔赴”就造成了如同机器人看到男孩不守规矩,气急败坏地捉住男孩手指的视觉效果。

如此看来,该事件并非AI觉醒的例证,而是由于技术不成熟和系统存在的错误导致这类作业机器人出现失误,从而对人类造成伤害。但为什么民众对此类机器人伤人的案件如此关心呢?是否是因为民众对于人工智能觉醒这一可能发生的未来感到深深地恐惧呢?

事实上,因为机器人技术不成熟和系统错误导致人类受伤甚至死亡的新闻早已屡见不鲜,而每一起案件都会唤起民众对机器人觉醒的忧虑。

1979年1月25日,美国福特工厂装配线工人,在密歇根州的福特铸造厂被工业机器人手臂击中身亡。这是迄今为止第一例有据可查的工业机器人杀死人类的案件。

2015年7月,美国密歇根州一家汽车零部件生产厂的维修工在检查和调试机器人的过程中,被突然启动的机器人将拖车悬挂装置组件装在头上,颅骨压碎而亡。

2016年5月7日,美国人约书亚·布朗(Joshua Brow)在使用特斯拉Model S的自动驾驶功能时撞上了一辆牵引车。调查发现布朗和自动驾驶仪都没有刹车,直到车辆偏离道路,撞到树上,安全气囊才打开。

经调查,许多机器人事故发生在如编程、维护、测试、安装或调整的非常规操作条件下。当人们身处机器人工作的环境并进行这些操作时,就有可能会遇到意想不到的伤害。 从新闻中当事人身份的演变我们可以看出,机器人的使用范围已经逐渐由工厂生产流水线进入到普通人的生活中。而一旦机器人全面进入普通人的日常生活,其小概率的系统出错事件,在面对全球如此庞大的人口基数时势必造成更多的人类伤亡。

更令人担忧的是,2016年美国加州伯克利大学的研究人员已经造出了能自己决定是否“故意伤人”的机器人,而该机器人的造价不过200美元。 该机器人的研发者里本表示,这是“首个能自主并有意识地决定是否要违背阿西莫夫法则的机器人”,他说到:“对人工智能的最大隐忧就是它们会失控”。他希望这个“哲学试验”能引发更多有关人工智能的争论。

人类学家胡家奇先生也早在一次演讲中提到过人工智能的担心,他说当前的人工智能只能处理逻辑思维方面的问题,但它强大的运算能力已经远超人类,人类的思考速度在它的面前如同岩石风化的速度一般。在不远的未来,如果它既具有罗辑思维的能力,又具备抽象思维的能力,还拥有自我学习的能力,它将马上脱离人类的控制,并在人类意识到危险之前将人类消灭殆尽。

任何技术的发展都不是一蹴而就的,而在发展的过程中必将出现无数错误。在可见的未来,伴随着人工智能技术不断发展与成熟,其造成损害的能力也在一步步扩大。在人工智能技术发展的后期,一旦出现如胡家奇先生担忧的“人工智能觉醒”的情况,对于人类这一物种来说将是灭绝性的打击。

希望人工智能技术从业者和使用者都能思考一个问题:人工智能技术对于人类来说真的是可控的吗?不要让一项本意是为提高人民生活水平而研发的科技,随时都有可能摇身一变成为灭绝人类的终极武器。