从无人驾驶到终结式武器,智能机器崛起的憧憬与隐忧

本文系《滚石》杂志的人工智能报告的第二部分(该报告的第一部分: 人工智能系列报告(一):挑战与机遇并存的科技革命),如果在未来,我们设计的机器向人类挑战、伤害人类、毁坏人类的深爱之物,甚至试图终结人类,那么,这也是因为我们让机器变成那样。某种意义上说,智能机器崛起的可怕之处不在于某天它们拥有自己的思维,而是某天,它们拥有我们人类——带着人类的缺点和复杂性——为它们设计和打造的思想。《连线》、《大西洋月刊》等权威媒体以及LeCun、 Nando de Freitas 等专家都在各自的社交媒体上推荐了这一系列文章。

这感觉真奇怪,坐在没有司机的车里在硅谷巡游。我坐在谷歌一辆自动驾驶汽车的后座上,这辆改装过的雷克萨斯SUV的车顶和挡板上装备着激光、雷达和低分辨率摄像机;它正在加利福尼亚山景城的街道上演练,这里离谷歌的总部不远。我在离这里大约五英里的地方长大,我还记得自己骑着一辆Schwinn Sting-Ray自行车在这条街道上来去。现在,我骑着的是算法,也可以说——用计算机代码写的数学方程式控制着这辆雷克萨斯。这辆车感觉不到危险,它也不像是人类司机驾驶的。它会在「停车让行」标志前完全停下来(加州没人会这么做),在离送货车很远的地方就开始转向,当我们经过停着的一排汽车时没有明显原因地刹车。

我不知道缺陷是否在我,而不是这辆车:它是不是对我不能看见的事物做出了反应?这辆车可以探测一只猫的运动,或任何时候(雪天雾天另当别论)任何方向上几百码之外一辆穿过街道的汽车。「它比人类看得清楚得多。」谷歌自动驾驶汽车项目首席软件工程师Dmitri Dolgov自豪地说。他正坐在驾驶座上,两只手放在自己的膝盖上。这是为了以防万一。

当我们停在路口等待左转弯时,我瞥了一眼乘客座上的笔记本电脑,它提供了汽车如何解释周围情况的实时状态。在上面,我看到了一个充满了五颜六色物体的栅格状世界,这些物体代表着周围的小车、卡车、自行车和行人,它们在视频游戏一样的画面中漂移。这辆车的每一个传感器都提供了一个不同的视角——激光提供三维深度信息,相机鉴别道路标志、转向信号、颜色和灯光。后座上的计算机实时处理所有这些数据、测量迎面而来的车流的速度、判断什么时候才合适左转。等着车子做决定是一个很怪异的时刻。我敢拿生命打赌开发算法的程序员在决定什么时候可以安全左转时,前一晚并没有与他的女朋友(或男朋友)吵过架,然后搞砸代码。这台雷克萨斯是一个潜在的杀手机器人。要是算法有缺陷,我就挂了。

但这并不是一部关于技术失控的糟糕电影。相反,这辆车等待着,直到车流中出现一个很大的间隙,然后它有点太突然地起步,开始执行左转弯。我谈了谈车子的突然加速。
「是啊,它开车还有一点像个青少年,」Dolgov说:「我们正在努力解决。」

1458573390-5113-RgGIPDkM4kLfc6z9a1fYUyXfhvLg
自动驾驶汽车的乘客座位上的一台笔记本电脑显示着车周围的小车、卡车、自行车和行车,看起来就像是一个布满彩色物体的栅格状世界。

没有技术象征着自动驾驶汽车这样的智能机器的进步——和危险。机器人可能帮助制造了你口袋里的手机,神经网络可能会帮你的假期照片写上标题,但自动驾驶汽车有望改变一切,从你从一个地方到另一个地方的方式到城市该如何建造。它们能拯救生命,减少污染。它们将用坐在一个「大号iPhone」中漫游的浪漫取代开放道路的浪漫。

但即将到来的自动驾驶汽车也带来了一些关于我们尚未解决的我们与技术关系的严峻问题。我们愿意将我们生活的多少控制权交给机器和建造运行它们的企业?我们这样做会给我们带来多少风险?而且不只是自动驾驶汽车时生命安全上的风险,而且随着智能机器将金融决策变得越来越工程化和智能化,也将出现经济上的风险。有了自动驾驶汽车,从Facebook到机器人战争,看不见的革命在每一种事物的背后发生着,入侵日常生活,促使我们对「技术精灵」产生一种新的认识。

自动驾驶汽车不仅是研究实验。现在,有的梅赛德斯汽车基本上可以自动泊车和调整刹车以避免撞击了。特斯拉最近发布了一个新功能Autopilot,可以让汽车在高速路上行驶时保持在车道之间,允许近乎无手动控制的驾驶,还能在走走停停的车流中和其它汽车保持一定的安全距离。至于全自动驾驶,谷歌并不是推动进步的唯一一家:几乎每一家主要汽车制造商都有开发中的项目,其中包括丰田,该公司最近宣布将向专注于自动驾驶汽车技术研究的硅谷人工智能实验室投资10亿美元。但更为激进的进入者是Uber,该公司挖了卡耐基梅隆大学机器人技术部门的墙角,聘走了40多位研究者和科学家。Uber联合创始人Travis Kalanick毫不掩饰他的目标就是通过无人驾驶出租车队节省开支。当我询问谷歌自动驾驶项目负责人Chris Urmson全自动驾驶汽车离上路还有多长时间时,他回答说:「我的个人目标是我12岁的儿子不再需要驾照。」

自动驾驶汽车的到来得益于很多因素,包括机器学习的进步让汽车可以「看见」、廉价传感器技术的扩散,测绘技术的发展和特斯拉这样的电动汽车的成功。但最大的原因可能是我们现在所知的汽车是20世纪的发明,已经不太适合二十一世纪的世界了;现在,从气候变化到中产阶级财富下降等问题都在质疑对轰鸣V-8汽车的需求——大型企业擅长打造性感迷人的设备来销售产品,然后吸取我们的个人数据。正如一位苹果高管所说(有传言称该公司正在探究是否进入汽车行业):自动驾驶汽车是「终极移动设备」。

在谷歌自动驾驶汽车里游了一圈山景城后,我回到了租的现代车里,而且我发现的第一件事就是绝大多数人类司机有多糟糕——头也不回地开出停车场,变道时隔断行人的通路。我想,「谷歌汽车可不会这么干」。一项研究预计,到本世纪中,自动驾驶汽车能够减少多达90%的交通事故。 「我们确实需要记住『 自动驾驶交通工具的应用』有多重要。」Urmson说道,「我们正在讨论美国30000条『生命』——在全世界则是120万条生命。如果你思考一下进展缓慢的机会成本,那将是十分吓人的。」

除此外还有许多其他潜力好处。自动驾驶汽车可能由电力驱动,将会促进研发更好的电池,减少污染并延缓气候变化。它们很可能会变得更小、更轻、更简单——它们会更像是架在轮子上的一个吊舱而不是你父亲凯迪拉克的样子。不需要自己买一个,你可以只用租它,在需要的时候用iPhone召唤即可。

但是,这条开放公路,从杰克·凯鲁亚克到丹尼斯·霍伯都曾欢迎的路将要被关闭(一个机器人学家推测,像科罗拉多那样的乡下地区可能会成为『驾驶公园』,允许人们再次感受掌控方向盘的自由)。如果计算机犯了错误,比如在雨夜里把车撞到了树上,那么,将会付出人命的代价。通过指挥你的交通工具,骇客们会拥有刺客一般的权利。没有安全的数据,你的车很可能会变成一个间谍,告诉上司你的每一步行动。

自动驾驶的未来依然不是很清晰。像谷歌和Uber一样的公司正在开发全自动交通工具,甚至没有方向盘——只需要一个设定目的地的程序,然后你就可以出发了。其他如特斯拉和Toyota一样的公司正在采取渐进的方式,并笃定汽车会承担一部分枯燥的驾驶任务,而把有乐趣(以及危险)的那一部分控制权留给人类。「现在最清楚的一件事,」MIT教授David Mindell,讲述智能机器革命史的《 Our Robots, Ourselves》作者说道,「就是自动驾驶汽车正在迅速地从实验室中进入到真实世界当中。」

1458573390-5467-wLU3VykGicIQtZqFkj2R63eSNicQ
Chris Urmson是谷歌自动驾驶汽车项目的主管
摄影:Nouvelage/Reuters

Chris Urmson住在离谷歌办公室不到两英里的地方,通常他会骑自行车去工作。今年39岁,有点腼腆,一点也不像大学研究生,穿着颜色鲜明但并不时髦的夹克,开着马自达5,他喜欢小型货车因为在拥挤的停车场里,他的两个儿子可以从车的侧滑门中轻易跳出来。

Urmson的办公室,和整个谷歌自动驾驶项目一样,坐落于新X(前谷歌X)大厦,距离山景城的Googleplex大约两英里。X是谷歌的秘密创新实验室,由科学家、企业家Astro Teller和谷歌联合创建人Sergry Brin管理。根据Teller,X的目标是为世界性难题提供「科幻般完美的解决方法」。这个建筑,在一家旧商厦旁边,有着后工业时代感的屋脊,水泥地板,玻璃墙包围的会议室以及一家提供当地有机食品的餐厅(我拜访的当天,Brin正穿着运动短裤和卡洛驰鞋四处晃悠)。X是Google Glass、过度炒作的头盔和Loon项目(为偏远地区用高海拔气球提供网络接口)的发源地。

自动驾驶汽车是X的大明星,也是距离商业化最近的项目。在加州注册的105个自动驾驶汽车,有73个属于谷歌。尽管谷歌并没有发明自动驾驶汽车,但是,它能宣称已经创造了自动驾驶汽车产业——收购创业公司、雇佣专家以及开发地图和导航技术。不像苹果公司,只是传言正涉足设计和制造汽车,谷歌的意图已经很清楚,无意染指汽车制造。它希望控制内部的软件,让软件系统成为机器人跑车的操作系统。

Urmson对于自动驾驶汽车的兴趣始于2003年,那时卡耐基·梅隆开始为来年的第一个 DARPA Grand Challenge制造一辆汽车。DARPA是五角大楼的秘密研发部门,从互联网到军用飞机隐形技术等,它在这些技术研发中扮演着重要角色。DARPA希望激励自动驾驶工具技术有所突破,对于军方来说,这会很有用。15辆汽车参加了加州沙漠上150英里长跑道的比赛,争夺100万美元奖金。最好的成绩是7.32英里——而且那辆车被卡住还起火了。第二年,比赛不那么悲惨了:5辆车完成了132英里,但是花费7个小时。卡耐基·梅隆的汽车获得了第二和第三名。Urmson,也是团队的汽车技术主管,说:「你可以看到这个科技是如何迅速发展的。」

谷歌在2009年开始了它的自动驾驶汽车项目,作为它的地图和街景项目发展的一部分(一旦你有了地图,那么离做好一辆自动驾驶车辆也不是那么遥远了)。Urmson在那一年到来,在谷歌工程师Sebastian Thrun(后者后来离开谷歌创立了Udacity,一家网络教育创业公司)手下工作。最开始,谷歌团队为丰田普锐斯的车顶装上摄像机、感应器和一个旋转激光器。这是一个非常昂贵的改造,光是激光器就有75000美元,大约是普锐斯自身价格的三倍。Urmson和同事们花费了几年,尝试不同的设计和技术。他们要解决一个最大问题:如果人类还在车里,那么,人类到底在汽车操作中扮演什么角色?换句话说,他们是在开发一个全自动的驾驶工具,还是仅是一个帮助人类驾驶的智能工具呢?

1458573390-3945-vS8VibELvWyqL4tDHicKKxR1nwmA
一辆Toyota Prius的谷歌自动驾驶汽车在华盛顿大街上逡巡

摄影:Karen Bleier/Getty

该项目在2012年秋季来到了十字路口。根据Dolgov所说,测试团队做了很多高速公路驾驶测试,在这期间他们把车辆设定成遇到不自信的情况就询问司机是否接管驾驶控制权。而他们发现结果并不令人满意:「人们并没有像我们所预期的那样给予足够多的注意,」Dolgov说道,相反,他们在发信息、聊天、打盹等等。「他们是谷歌的员工,我们训练过他们,也强调过他们一直保持注意力集中有多么重要,然而这就是人的天性,」他说道。「如果车辆遇到了危险情况,要求人类接管,结果人在睡觉,你会怎么办?」

因此, Urmson 和他的团队认为,充分的自主权才是自动驾驶需要走的路。2013年,他们开始研发一种没有方向盘或脚踏的原型汽车——本质上,就只有一个在轮子上的舱。这是个可爱的小型城市汽车,处于老式大众甲壳虫和太空舱之间。前置柔软的减震器来减轻撞击影响(上帝保佑它别撞到任何一个行人),最高时速20英里/小时。Dolgov说道:「某种程度上,它使这个系统更加简单,因为(它是)完全受到控制。」

Urmson还表示,开发能够完全自动驾驶的汽车还有其他的益处。「这还将改变自动驾驶技术的受益人群。」。比如,盲人,或者生理残疾的人。「让这些人群能以我们(正常人)都视为理所当然的方式在城市里行动,这一机会看起来确实很重要。」他说道。「而且由于这项技术性价比很高,你会能够以今天搭乘公交的费用 提供个性化公共交通。」

Urmson没有提到的一件事是全自动汽车也会使谷歌受益。谷歌是个人数据的帝国,它能够搜集、运用这些数据,并将之以大量疯狂赚钱的目的进行售卖,包括卖广告。它怎么会不想成为你信赖的公司,把你带到任何你想去的地方——并在一路上售卖东西给你呢?

现在,Urmson 正聚焦于让谷歌汽车「足够偏执(paranoid)」以应对真实世界中发生在司机身上数十亿异常情况。谷歌汽车每周大概行驶10,000英里,或者在山景城,或者在奥斯汀,或者在柯克兰,以及华盛顿,这是这家公司最近刚开始进行的新街道驾驶项目所在地。汽车已经行驶了超过100万英里,几乎对日常驾驶了如指掌,但这对谷歌和其他人来说仍然只是开始。「现在,我们不得不去解决困难的部分,」Toyota自动驾驶部的主管Gill Pratt表示。「我们不得不找出在[没]有地图时该做什么,当路线和地图不同时该做什么,当发生未预计的情况时该做什么——比如追逐皮球的孩子冲到了车前,或者某人非常迅速的变更了路线。这些都是动力学很难应付的情况。」

为了看到汽车对这些异常情况做出的反应,谷歌正在某条路上对它们进行测试,在这里人们会从旁边突然跳出来,向减震器上丢球。但问题比只对球做出回应要更复杂。在我们围绕山景区行驶不久之后,我向Dolgov提出一个假设情形:「假设谷歌汽车沿一条双向道路行驶,而有一辆自行车正好就在车旁边。假如就在你准备超过自行车时,另一条道上的一辆车突然变道冲向你正在行驶的道上,会发生什么?如果谷歌汽车不得不二选一,或者迎头撞上汽车,或者向旁边移动,撞上自行车,汽车会怎么做?」

Dolgov斩钉截铁的表示:「它不会撞上骑自行车的人。如果我们能够给迎面冲来的车更多空间而且尽力让它不要撞到我们,我们就会这样做,并且会尽可能努力踩刹车以最小化影响。」这似乎像是正确的决定——但很容易就会想到这样的场景,什么是正确的事情并不清楚。如果汽车不得不在与突然变道的车擦边而过和在绿树成荫的林荫道上开车做出选择的话——你真的愿意相信汽车的算法能够做出正确决定?「某些选择是有趣的哲学问题,」他说道。「因此,你不得不通过今天正在道路上发生的事情来看这个问题,全世界范围内(在道路上行驶的)人类司机可能杀死了超过百万的人。」

1458573390-8100-xXwiaH1FaZeuDe5DdUFrIaPJhySg
车载摄像机拍摄的视频,以及自动驾驶汽车对数据进行视觉化后的同一街道场景

摄影:Elijah Nouvelage/Reuters

这是真的——在大部分情况中,自动驾驶汽车安全得多。他们不会喝酒,没有路怒症,也不会发信息。但技术不是,也不会永远毫无错误。谷歌汽车在过去的几年里涉及几起车祸,但都并非过错方。但在上个月,谷歌第一次造成了一起小型车祸,变道时撞上了一辆公交(无人受伤)。「自动驾驶汽车首次撞死了某人,会成为大新闻,」Nvidia的自动驾驶汽车高级总监Danny Shapiro说道,Nvidia是一家制造用于自动驾驶汽车的视频处理芯片的公司。即使它们更安全,但把你的生命放心的交给机器——或者,更确切的说,交给谷歌(或者苹果、或者特斯拉)编写的计算机代码——仍然是个巨大的挑战。谁能确定控制汽车的算法里到底写入了多少风险呢?在《Our Robots, Ourselves》中,Mindell想象了一场对话,说道,更多风险(开得更快),更少风险(开得更慢)。但谁能保证这样的风险是准确的?如果大众能够在排气测试上欺骗大众,为什么它不会在安全测试上欺骗大众呢?

诸如这些问题就是机器人先驱Rodney Brooks认为人们夸大了谷歌对完全自动驾驶汽车信赖的原因所在。并不是因为技术没有准备好,而是因为说到底,人们喜欢有个人在现场——特别是当生命濒临危险之时。Brooks指出了火车的历史,火车有一个简单得多的控制问题:「在机场年复一年地使用无人驾驶火车之后,人类才开始适应地铁的无人驾驶。」他还提到了2009年6月份的华盛顿地铁事故,一辆计算机驱驶的火车撞上了另外一辆,造成了9人死亡,80多人受伤。事故之后,群众要求人类重新控制火车。Brooks说,「人类驾驶时,表现会下降。因为人类司机并不善于在标记处停下来,但是,人们说,『不,你不得不在决策环节安排一个人。』」在第一辆计算机驱动的火车重回轨道之前,研究和升级费用为1800万美元。

Eric Horvitz是微软研究院主要人工智能实验室(位于华盛顿州雷德蒙德)的总监,他认为,谈这一切将如何展开,还为时过早。但是,我相信不久,我们将看到至少有一个主要城市完全有一队公共微型交通工具。他说:「你能想象城市看起来会完全不同。你要到巴黎的城郊,却不能驾驶私家车。不用担心,城市完全被灵活的微型公共交通工具覆盖。你只需指定想要的到达的地方,一辆小车微型车停下来,它会载你到目的地。于我而言,听起来很赞。」

如果有家能作为机器人正在如何颠覆美国制造业就业的典范,那一定是波音公司。据路透社消息,较之20世纪90年代,波音飞机制造量增加了20%,但工人少了1/3。仅在过去的一年中,它就用60吨重的机器人取代了数百位工人。波音称,机器人工作速度是人的2倍,不合格率少了2/3。自动化对公司工作力的影响是引人注目的。1998年,波音公司制造了564架飞机,平均每架飞机雇佣217人。到2015年,它制造了762架飞机,平均每架飞机需要109位工人。最近的白宫经济报告总结说,在量级上,机器人的劳动生产力与19世纪蒸汽机取得的生产力相似,也就不让人惊讶了。

鲜有经济学家质疑这一事实,智能机器不久将会在很多种工作中取代人类,从快餐服务业到货车司机。2000年到2015年,大约500万制造业岗位消失了。一些是被输送到国外,但许多是被日益增多的自动化取代。

但是,机器人入侵的经济后果并非看起来那么简单。二十世纪七十年代,我长在硅谷,亲自见证了这一点。我朋友的父亲在附近费利蒙市的老通用工厂工作。在生产线上工作——曾被少量飞溅的金属烫伤过胳膊——他能养家糊口。在20世纪70年代末的顶峰时期,这个基地雇佣了6800人。

不幸的是,他们生产的汽车太差了。20世界70年代至80年代期间,通用汽车可怕的可靠性可谓众所周知。2010年,This American Life(TAL)一集中,密歇根大学的一位教授说:「(对此的)描述之一就是,你能在费利蒙市的通用基地购买任何东西。如果你想要性,毒品或者酒精,想要赌博—就去那里…那个工厂里。」

不久之前,我参观了这座老的通用工厂。如今它属于特斯拉,而且已经变成世界上最先进的自动化制造工厂之一。一边有大量的原铝进入工厂,一边生产出价值10万美金的电动汽车。特斯拉的生产部副总裁Gilbert Passin说:「我们正在这里建造未来。」

超过一千多台机器人工作在特斯拉的生产线上。一些从顶部悬挂下来,一些沿地面快速运送材料,还有一些类似Iceman的巨型机器人,高达15英尺,能像举玩具一样举起1000多磅的特斯拉车身。尽管这里是世界上汽车制造自动化程度最高的基地之一,特斯拉一周只生产1000台汽车(通用曾一天生产过1000台汽车)。但最令人惊讶的是:特斯拉雇佣了大约3000人。所以,特斯拉并不只是生产的高质量汽车,它每台汽车平均需要的工人也是通用汽车的3倍。从此看来,工厂的自动化并没取代人类的工作,而是创造了更多的工作。

这些工人做什么?一些生产线的工作对机器人而言太微妙或者复杂,比如表盘的安装,需要人来做;一些工人需要控制机器人,安装机器人工作需要的工具。Passin说「这个基地内,机器人和人协同工作,做各自擅长的工作。」换言之,这并非一个自动化工厂,而是人机共同的舞台。

1458573391-7516-dadJpKLBUibn837VQTzTKUGduZQA
特斯拉有一个世界上最先进的自动化制造基地,机器人与工人一起工作,每周产出1000台汽车

摄影:Jessica Brandi Lifeland/Polaris

如今,已经无需怀疑智能机械的发展会对就业产生巨大的影响。一些消失的工作将会被在高科技领域创造的新职位所填充,一些就永远的消失了。2013年牛津大学的一份报告提醒说,在接下来的20年中,现有职业中的一半都有着自动化的危险。最近的一份美国美林银行报告的作者曾说过:「我们正面临着范式转变,这将会改变我们生活工作的方式。近年来,科技颠覆创新的幅度已经从直线性转变成抛物线了。」

不难看出哪些工作是机器人的目标:文员职位,流水线工作,翻转汉堡。上个月,白宫的经济报告做出预测,如果一份工作的薪酬少于每小时20美元,就有83%的可能最终被自动化技术淘汰。但是除此之外,很难预测影响力。蓝领和受教育程度低工人当中的失业和工资的停滞不前现象已经改变了美国政治,也推动了 Donald Trump 的崛起——日益增加的自动化只会加速这一趋势。

「有很多恐惧,」 Ken Goldberg 说,他是加州大学伯克利大学的机器人专家,率先发起「人与机器人(People and Robots)」活动,希望找到一条途径加强人与机器人的合作。「但是,有些事是机器人擅长的,而有些事是人类擅长的。所以,我们需要以二元论来思考它们,因为你可以发现机器人将帮助人们比以前做得更好。」

一个人机合作的例子是Goldberg正在致力于医疗机器人。他们努力了15年左右,但是直到现在,他们只不过做出了精致的机器人手臂,医生通过摄像头观察,让这些手臂以安全的方式进行微创手术。尽管不久以后可能会有变化,但是目前没有自主( autonomy)。手术涉及大量单调乏味的子任务——比如,缝线。「你正在给星级外科医生付费,请他坐下缝线。」Goldberg说,「这不是在好好利用时间。」另一个乏味的任务叫做「清创」——挑除体内的已死或癌变的组织。「在这个任务上,我们认为机器人可以做得很好。」他说,「我们可以用感应器扫描,发现组织表皮下的肿瘤,然后切掉和移除它。这会让外科医生失业吗?不会。我们正在谈论的是发明工具,让外科医生做得更好,允许他们专注于更重要的任务,让机器人去做乏味的工作。」

然而,经济改革对很多技术不熟练的工人来说将是残忍的。Thrun争论道,应对即将到来的社会大动乱的最好方法,不是试图妨碍科技发展,而是改善教育。去年秋天,他告诉《经济学人》,「我们仍然生活在发端十九、二十世纪的教育体系。」他的网络学校,即Udacity,如今在全球有4百万注册使用者,提供计算机相关领域的「微学位(nanodegrees)」。「我们遇到这样一种情况,精通技术的人与技术不熟练的人之间的差距正在加大。」他说,「我不得不教育每个人,这个任务是在真地尽力推迟人工智能最终会对我们产生的影响,因为我真诚地相信大家应该有这个机会。」

根据2014年NSA中心一篇新的、颇有影响力的论文,未来的战争将是「完全新式的作战体系,无人操控的自动化系统扮演中心角色。美国的国防领导人应该马上开始为不远的将来,为机器人时代的战争做准备。」想想3-D打印机的大群小型武装无人飞机,让大城市天空暗下来;想想士兵们受到钢铁侠般体外骨骼的保护,并配备神经植入物,从远程计算机注入目标数据;想想沿岸水域有无人潜水艇出没;再想想黄蜂大小无人机实施的攻击。在这个新的战争年代,昂贵的冷战时期的技术,比如战斗轰炸机,将愈发无关紧要,世界上大型计算机的军事等价物已经转移到笔记本电脑和iPad上。

1458573444-2558-BgI96S13CZ5VoRqH6jVStl2jx8Cg穿上外骨架的士兵可能某天使用神经植入物控制机器。

摄影:Conrad Johnson/RDECOM Public Affairs/U.S. Army

军事技术的演化似乎是由三个因素驱动的。第一是风险减少。机器人能进入士兵不能进入的危险环境,潜在保护了陆军士兵的生命。在阿富汗和伊朗,有超过1,700个PackBots,这是玩具车尺寸的机器人,无线控制,并配备可以抓握以探测地雷的远程控制机器手臂,或者配备用于监测的摄像头。更新的(newer)军事无人机,比如MQ-9 Reaper,已经可以起飞、着陆和飞往目的地而不需人为干涉。风险减少也改变了战争的政治考量:既然机器人不会躺在棺材里回国,那么,智能机器的使用让军事领导人能够从事否则会无法想象的困难任务。

第二个因素是金钱。美国每年的国防经费将近6千亿美元,这个数目比排在它后面的10个国家的经费总和还要多。军队预计会将总共1.5万亿美元的经费用于F-35战斗机,这款战斗机已经有十五年的研发历史了。在ISIS时代,这种花费不仅很难被证明是正当的,还可能愚蠢至极。F-35是无用的,不能抵抗成群的小型无人机或者购物中心的自杀式恐怖袭击。而且事实是,操作和维护人,花费巨大。New America高级学者高级研究员,《Ghost Fleet 》(一本关于未来战争的小说)的作者Peter Singer 说,「大约三分之一的军事费用都花在人身上了。」最近,一位美国陆军将军推测,接下来几年,作战旅将从4000人降至3000人,机器人补充不足。

第三个因素是对快速崛起的中国的恐惧(有人说是妄想)。自从冷战结束后,美国凭借精确制导导弹和其它胜过苏联的技术,享受到了超越竞争对手的前所未有的优越感。但是,中国似乎正在赶超,迅速增加国防经费。如果战争爆发,中国新式反舰导弹会让在西太平洋运转的美国航空母舰陷入危险。中国人也已经加大在先进武器装备方面的投资,尤其是军用无人飞机,中国正在制造这些设备并销售给政局动荡的国家,如尼日利亚和伊拉克。

对军队而言,问题是将智能机器部署在哪里,部署到什么范围或程度。对一些工作而言,机器干预是件容易的事。美国军队历史上第一位女性战斗机飞行员 Mary Cummings ,如今在杜克大学管理一个机器人实验室,说,「在军事领域,过去,从航空母舰上起飞和着陆是一件很危险的航空任务。」Cummings的一些朋友在尝试航空母舰着陆时,死于撞击事故,她正致力于更深入的人-机合作,尤其是在充满焦虑的情况下,这可能导致致命的错误计算。「如今,F-18的自动驾驶仪能从航空母舰起飞和着陆了,比任何人做的要好得多。」她说,「它安全多了。」在另一极端情形中,人类已经坚定地留在决策环节中,尽管技术上不必如此。虽然无人机不久就会变得成熟,可以识别、瞄准和杀死一个40,000英尺之外的人,所有无人机攻击都需要作为「射杀指令链」一环的官员签署,这一链条终止于总统。

很多为满足军事用途而正在研发中的智能机器,最好被理解为人类能力的延伸(视觉、听觉,在某些情况下,扣扳机的手指)。在美国军方的支持下,卡耐基梅隆大学立项打造配有摄像头的蛇形机器人,可以爬行接近敌方目标。哈佛研究人员在DARPA的支持下,开发出了「RoboBee」,翅展3公分,可以飞过开着的窗户,或实施暗中监视。DARPA 也正在研究所谓的「吸血鬼无人机(vampire drones)」,由任务完成后可「升华」的材料制成,比如,升华为气体。有些DARPA 正在研究的项目正是出自James Cameron的电影:据《The Pentagon’s Brain》——讲述DARPA历史——一书作者Annie Jacobsen 透露,DARPA 15年来一直在研究一个称之为「增强认知(Augmented Cognition)」的项目。「通过『增强认知』项目,DARPA 正在打造人类-机器生物混合体,我们可称之为cyborgs,」James Cameron 在书中写道。DARPA 科学家正在试验人类大脑神经植入,可作为人脑与电脑进行快速信息交流的途径,挖掘这一可能性——无论多远——士兵无需操作杆,通过传递诸如被编码成电脉冲的思维之类的东西,就可以控制战场上的机器人。

不过,很有必要将DARPA 进行的科幻小说式的项目与真实世界的情况区分开来。去年6月,我参加了DARPA 在洛杉矶附近举行的 DARPA 机器人挑战赛决赛。该比赛由美国国防部发起,冠军可获得200万美元奖金,旨在激发用于灾难现场的机器人创新,如福岛核电站事故,可在放射强度极高的发电厂里提供救援。

最有希望赢得决赛的是由卡内基梅隆大学的一个团队打造的Chimp,一个重达443磅的机器人。Chimp 看起来很庞大:高5英尺,手臂负重300磅。「我们设计了一个不会跌倒的机器人,」Chimp 一位软件工程师吹嘘说。

但是,在机器人世界,不是所有的事都按计划行事。比赛迅速演变一出碾压机器人的喜剧:一个跌倒的机器人,液压液体像外星人血液一样喷涌而出;还一个头突然飞走。甚至强大的Chimp 尝试开门时,面朝地摔下。未来似乎仍很遥远。

1458573391-6827-cPKr5TS4nicD2nNoUmfTrKObasLg
多功能机器人CHIMP

摄影:Chip Somodevilla/Getty

谈到机器人和战争,问题的重点不在于技术,而在于哲学:能否赋予机器杀人的权利?将决定——以及权力——外包给机器的想法,是个很恐怖的主意。去年7月,康涅狄格州一个青少年将手枪固定在一台简易无人机上,然后将视频上传到Youtube 上(该视频点击量超过350万),该做法引发热议。想象一下,如果某人将iPhone 固定在一台商店购买的无人机上,然后配上半自动武器,这将引起怎样的恐慌,实际上,此人相当于自制了一台远程控制的谋杀式无人机。

当然,简单的自主触发武器不是什么新鲜事物:比如地雷,这就是愚蠢的自主武器的化身,因为无论是敌人还是一个三岁孩子,踩上去都会爆炸。20世纪90年代,美国活动家Jody Williams 发起反对地雷的国际性运动,最终使得162个国家签署条约禁止使用、开发或储存杀伤性地雷。Williams 也因此获得诺贝尔和平奖。现在,她又在20位有诺贝尔头衔人的帮助下,带头发起了一项称为「Campaign to Stop Killer Robots」的行动,他希望在自主武器成为现实之前彻底禁止。「我认为杀人机器人比核武器更恐怖,」去年,她在日内瓦告诉NBC。「如果有人认为将人类生死的决定权交给机器没问题,我想问人性去哪了?」从2014年起,联合国就一直在讨论可能的国际准则。

美国五角大楼要求「使用武器前进行适当的人类判断。」但是。何谓「适当的」?实际上,某些完全自主的武器早已在建造中。美国即将部署具备自动控制系统的远程导弹,可自动寻找目标。韩国已经开发出了自动化枪塔,能在黑暗中超过一英里的距离自动感知目标,朝人类目标开火。

在加利福尼亚举行的机器人竞赛中,我与佐治亚理工学院教授Ronald Arkin 交流,他写了有关很多机器人伦理的文章。「我不倡导终结者式的武器,」Arkin 告诉我。「不过,我也确实认为这是个很复杂的议题。」Arkin 指出,更智能的武器可减少平民伤亡。「因为它们没有情感,在危险情况下不太会惊慌,」他说,「也不会因为心理学家所说的『战争迷雾(fog of war)』而做出错误的决断。」举个例子:去年10月,美国一架AC-130 武装直升机错误地朝阿富汗昆杜茲(Kunduz)一家医院开火,造成至少42人死亡。驻阿美军司令John F. Campbell 称此事件为「原可避免的一场悲剧,主要因人为失误造成。」自主无人机会犯相似的错误吗?

「目前,我们放飞无人机去猎杀那些真正可怕的人,」计算机科学家和作者Jaron Lanier 说。「但是,系统也设定为可四处飞行,搜寻并进行射杀。」当然,问题在于,如果这些真正可怕的人获得了无人机然后将我们作为猎杀目标,会出现这种情况吗?「呃,历史经验告诉我们,是的,这会发生,」他说。「如果真的发生了,不要说『啊!这些邪恶的机器,』我们应该说『喔!工程师真的很不负责任,还很愚蠢,没有全盘考虑。』我们不应该谈论(邪恶的)人工智能,我们应该说工程师有责任打造可持续的系统,而且这个系统不会调转枪口。这才是讨论的正确姿势。」

有些研究人员认为,我们或许能够将某种天然(未经加工的)的道德代码编入机器,但是,那需要一定的技术成熟和复杂度,对此,我们只能加以推测。然而,越来越多的自主武器也许不能避免。这不像核武器,需要举国之力的投资才能获得,这种新型技术由商业发展驱动。「我向你保证,谷歌和亚马逊的无人机监控能力很快就会远超军方,」Cummings说。「它们有大得多的数据库、更好的面部识别技术,更有能力制造和控制无人机。这些公司比CIA(美国中央情报局)知道地更多。当政府开始要求公司向他们提供最新的防御技术,将会发生什么?」

但是,Cummings 认为,距离真正杀人机器人的到来还有很长的路。在实验室幻想自主机器人和武器远比在现实世界部署简单。在加利福尼亚举行的机器人竞赛结束后,我很快就想到了这点。我漫步回到了车库,打造并操作机器人的团队正在那里消遣。这就像一个纳斯卡(译者注:纳斯卡车赛是一项在美国流行的汽车赛事)车库,有放置工具箱的凹槽和高科技的齿轮,团队成员正在喝啤酒。除了没有车,机器人取而代之。最终,冠军由韩国一个团队打造的小型机器人DRC-Hubo 摘得,也许是五角大楼有意地武装毗邻中国的盟友吧。

至于机器人自身,属于它们的时刻已经结束。它们被保护带挂着,还不如一辆停着的汽车富有生气。即使是强大的Chimp,大红色的涂漆因戏剧性的摔倒而磨损,看起来微弱无力。同时,卡耐基梅隆大学的工程师和程序员围在四周,或收拾工具,或盯着电脑屏幕。这是一个《绿野仙踪》时刻(译者注:源于《绿野仙踪》,Doris(女主人公)看到了躲在帷幕后面的号称操纵一切的 The Great Wizard of Oz的那一刻。),透过帘子猛然一瞥,当你看到如Chimp 一样强大的机器都是人类汗水和创造力的结晶,没有几十人数年的设计和制造,这机器人就不可能存在。这同样也适用于谷歌无人驾驶汽车和CIA用来打击巴基斯坦和也门基地组织的无人机。与面包机相比,它们是智能机器。但是,他们是人类想象力和工程学的成果。如果在未来,我们设计的机器向人类挑战、伤害我们、毁坏我们深爱之物,甚至试图终结人类,那么,这也是因为我们让机器变成那样。最终,智能机器崛起的可怕之处不在于某天它们拥有自己的思维,而是某天,它们拥有我们人类——带着人类的缺点和复杂性——为它们设计和打造的思想。

©本文由机器之心编译

感谢支持199IT
我们致力为中国互联网研究和咨询及IT行业数据专业人员和决策者提供一个数据共享平台。

要继续访问我们的网站,只需关闭您的广告拦截器并刷新页面。
滚动到顶部