雨枫轩 > 雨枫书屋 > 经典评论 >

当人工智能变成人类杀手

 
  1942年,著名科幻小说家阿西莫夫提出了“机器人三定律”:第一,机器人不得伤人,或者对身处险境的人袖手旁观;第二,机器人必须服从人的指令,除非这条指令违反第一条;第三,在不违反以上两条的情况下,机器人有权自保。
 

当人工智能变成人类杀手

 
  这些原则对后世的科幻文学产生了深远影响,也成为现代人工智能(AI)学科的奠基石。数十年来,“失控的机器人”是人类挥之不去的梦魇,一代又一代科学家试图将日益强大的AI永远置于阿西莫夫定律的禁锢中。
 
  然而,2018年11月由美国HBO推出的纪录片《杀手机器人的真相》揭示了冰冷的现实:AI似乎正在远离阿西莫夫的构想,朝着《终结者》或《西部世界》的方向发展。“这是本年度最恐怖的纪录片。”英国《卫报》评价道。杀手机器人已走进现实
 
  《杀手机器人的真相》在机器人“科多莫罗德”的叙述中开场。科多莫罗德看上去是个漂亮姑娘,但“僵硬的动作”和“怪异的停顿”揭示了她的身份。美国“每日野兽”网站文章称:“用机器人的口吻讲述机器人杀手的故事再合适不过。”
 
  科多莫罗德首先回顾了2015年发生在德国法兰克福大众汽车工厂里的一起悲剧。一名21岁的工人走进“关押”机器人的“安全笼”中进行调试,机器人突然“发飙”,用机械臂抓起工人并将其按在金属板上碾压,致其死亡。事故发生后,大众公司含糊其词,至今未得出调查结论。检察官曾考虑提起诉讼,却不知该指控谁。
 
  据美国职业安全健康管理局统计,过去30年间,机器人制造了30多起命案。最近一次发生在2017年,57岁的技术人员万达·霍尔布鲁克在密歇根州一家汽车配件厂被机器人杀死,事件的细节令人毛骨悚然。这家工厂里的机器人和人类在不同区域工作,然而,有个机器人“越界”了,它来到霍尔布鲁克身边,举起沉重的配件砸向她的头颅。死者的丈夫表示,妻子经历了“巨大的惊恐、疼痛和折磨”。
 
  如果说工业机器人“大开杀戒”离普通人有些遥远,那么,自动驾驶汽车制造的车祸足以给乐观的人敲响警钟。自动驾驶汽车被称为“第一代民用智能机器人”,可正如《杀手机器人的真相》指出的,它们远非完美无缺。2016年,一名美国男子的特斯拉汽车在自动驾驶模式下转弯时,未察觉一辆拖车正在横穿路口,以118公里的时速径直撞了上去,特斯拉的车顶被削掉,车主瞬间殒命。
 
  机器人能摧毁人类的血肉之躯,还会抢夺人类的饭碗。影片提到,机器人正在加速取代人,无论是在制造业、农业还是服务业,它们的身影越来越清晰,“当你听到政客们承诺提高就业率时,他们不是在妄想就是在撒谎”。
 
  人工智能的粉丝描绘了一幅乌托邦画卷:机器人完成所有工作,人们只需坐享清福;你我的大脑将被上传到云端,实现“永生”。
 
  而现实是,自动化导致越来越多的蓝领劳动者失去生计,留下来的工人为了保住饭碗,不得不更卖命地工作。一边是效率更高、成本更低的机器人,一边是一有不满就罢工的工人,老板有什么理由对后者手下留情?
 
  “机器人是好的,”科多莫罗德这样评价同类,“除了杀人和抢工作的时候。”该让AI掌控生杀大权吗
 
  AI对人类的威胁日益增大,把生杀大权交到它手中更是火上浇油。
 
  使用杀伤性武器的决定权一直掌握在人类手里,但AI的发展有朝一日或将改变这一局面。机器人可以更早发现敌人,并主动出击,消灭目标。据美国《纽约时报》报道,美国、英国和以色列等国家都在尝试赋予无人机和导弹自主权。
 
  这与阿西莫夫定律背道而驰,对人工智能武器的猛烈抨击汹涌而至。2015年,斯蒂芬·霍金及1000多名人工智能科学家联名发出一封公开信,警告说“自动化武器将像AK-47步枪一样普及”,并“在执行暗杀、征服异族、破坏别国稳定、减少外族人口等任务时扮演理想的工具”。2018年,谷歌公司的几名资深AI专家发表声明,“拒绝开发直接或间接导致人员伤亡的武器和技术”。
 
  有人呼吁全面禁用不需要人类监督的全自动致命性武器,这项倡议受到澳大利亚、以色列、美国、俄罗斯和韩国等国家的抵制,未能成为国际守则。
 
  “我认为自动化武器不能遵守作战规则。它们分不清敌我,也无法做出正确反应。”英国谢菲尔德大学教授諾尔·夏奇告诉英国《每日邮报》记者,“比如,你不能说本·拉登的性命等于50个老太太加20个孩子。人类必须亲自判断,不能让机器代劳。我不反对机器人,但让杀人武器自己跑出去滥杀无辜,这太可怕了。”
 
  《纽约时报》假想过这样一幕:飘雪的寒冷冬日,两国士兵正在进行例行边境巡逻,双方都配备了手持机枪的机器人,它们能识别出有威胁的人员和车辆。一名士兵不慎跌倒,触碰了步枪扳机。对面的机器人听到枪声,立刻判断这是攻击信号。一秒之内,双方机器人在算法的指挥下同时向人类开火。枪声停止后,几十名士兵的尸体散落在机器人周围。两个国家剑拔弩张。
 
  对机器人士兵的担忧并非空穴来风。据英国“listverse”网站消息,2007年,南非的一台防空武器在演习期间无缘无故地开火,杀死了9名士兵。经查,“肇事者”可以在无人干预的情况下发现和打击目标,甚至自行装弹。防务工程师理查德·杨表示,此事绝非偶然,他曾多次目睹武器“发狂”,只是当时没人丧命而已。“超级物种”实现自我进化


作品集
相关文章: