注册

谷歌内部之争:AI技术是否可以卖给军队?


来源:品途商业评论

原标题:谷歌内部之争:AI技术是否可以卖给军队? 2017年7月,13名美国陆军指挥官和技术主管在五

原标题:谷歌内部之争:AI技术是否可以卖给军队?

2017年7月,13名美国陆军指挥官和技术主管在五角大楼的硅谷前哨碰面,共同商讨如何将技术应用于实战的问题。这是16年五角大楼与谷歌成立该咨询委员会以来,双方举行的第二次会晤。谷歌副总裁Milo Medin将双方的谈话内容转移到了使用AI作战的主题上来。谷歌前东家Eric Schmidt也随即提议使用AI技术来制定未来20年里和中国对峙的策略。

几个月后,美国国防部聘请谷歌云技术部门研究Maven项目,旨在通过技术手段提升机器学习在思考和观察方面的能力,增强无人机的性能。这对谷歌的母公司Alphabet来讲绝对是一笔大生意,不用和其它巨头竞争,每年轻松获得政府数百万的资金,何乐而不为?不过公司的员工并不这么认为,在这个自由派盛行的湾区地带,接受国防部的一纸合约无异于和特朗普当上美国总统一样惹人争议,大约4000名谷歌员工在一封信上联合署名,要求谷歌CEO取消Maven项目,并中止公司一切与战争有关的业务。他们以谷歌过去“不碰军事类项目”的历史和“不作恶”的口号来作为理由,不断对谷歌高层施加压力。Alphabet旗下的一间AI实验室甚至主动和该项目撇清了关系。还有大概12名员工正试图以辞职的方式抗议谷歌仍然和Maven项目有所往来。很多人之所以反对这笔交易,是因为他们认为这会成为谷歌帮助五角大楼制造自动杀人武器的第一步。

由Maven项目引发的内部骚乱加之最近爆发的硅谷如何使用数据和技术的争议,促使谷歌的CEO Pichai不得不行动起来。据知情人士透露,Pichai以及他的助手们正在制定道德原则,目的是为谷歌今后部署强大的AI技术提供指导。当下谷歌正和其他对手争夺五角大楼高达10亿美元的云技术合约,当被问及这场内部争议是否会影响谷歌与五角大楼的关系时,谷歌发言人暂时拒绝发表评论。

谷歌员工对将AI应用于战争的厌恶由来已久

在前不久刚刚举办的谷歌开发者大会上,谷歌AI主管Jeff Dean就曾对记者透露,他曾在2015年的时候写过一封公开信,表达了自己对使用AI制造自动化武器的反对。军方使用带有AI功能的Gmail并没什么问题,但放在在其他案例中情况就不一样了。去年,包括Demis Hassabis、Mustafa Suleyman在内的几名主管,和AI领域著名研究专家Geoffrey Hinton向联合国共同签署了一封信,信中表达了他们对AI作为军事用途的担心。“具有杀伤力的自动化武器会在很大程度上扩大冲突的规模,冲突的时间跨度也会大大缩短”。

AI系统目前并不完善,很多bug会导致很严重的后果。比如前不久两名半岛电视台的记者就向法院提交了诉讼申请,理由是由美国政府的天网监测系统管理的无人机曾将两人错误地列入“刺杀名单”中,险些酿成事故。数字权利基金会主管Nighat Dad曾就此事向谷歌CEO致信,要求停止Maven项目合约,不过对方尚未就此事作出回复。

不过在一些AI专家看来,最让他们担忧的是当前的技术手段还不可靠,可能会被黑客劫持做一些不适当的战场决策。纽约大学AI研究员Gary Marcus称“在对一些比较重要的事做决定时,我绝不会相信任何软件”。

在他看来,由于公众并不清楚软件是如何被使用的,所以Maven项目正在道德的灰色地带游走。“如果谷歌想要为军队做一些机密的事情,那么公众就有权利了解谷歌正在往什么方向发展”。目前谷歌的云技术部门并未获得从事保密项目的允许,至于公司是否会征求有关部门的许可,谷歌发言人暂时拒绝回答。

谷歌与美国政府的过往

多年以来,谷歌一直都在试图避免和政府部门打交道。许多和政府有关联的公司被谷歌收购后,其与政府签署的合约一般都会中止,这已成为定律。2011年,面部识别技术公司Pittsburgh Pattern Recognition被谷歌收购,其当年从政府那里获得的收入为679,910美元,到了第二年,谷歌从政府那里得到的总收入都比这个数目低。Boston Dynamics在成立的13年内从政府那儿拿到的合同总值超过1.5亿美元,被谷歌收购后的第二年该公司便中止了与政府的合约。然而,谷歌内部也有一批人对与政府合作十分向往。

要说谷歌内部谁最支持和政府合作,负责云技术的主管Diane Greene当属头一个。而且,自Greene15年走马上任担纲云技术部门主管以来,谷歌在为政府工作这件事上也变得不再那么反感了。在今年三月份的一次采访中,Greene极力为五角大楼辩护,认为将Maven项目视为谷歌业务的拐点是错误的判断,“谷歌已经和政府部门合作很长时间了”。五角大楼在一年前开启了Maven项目,目的是对大量的监测数据进行分析。她的部门在该项目中只承担了很小的一部分工作,比如浏览无人机拍摄地雷的画面,标记后通知陆军人员。设计相关软件并不是为了识别目标或是下达攻击指令,而是为了“拯救生命”。

不过,真正促使Greene决心和政府合作的根本原因恐怕还是因为一个钱字。去年,联邦机构在未加密的云技术合约上面的预算超过了60亿美元,其中三分之一的订单需求都来自于国防部。现如今,亚马逊、微软和Oracle这些巨头都已成为政府部门的重要合作伙伴,仅亚马逊一家公司的云服务就让中情局总共掏了6亿美元。Greene决心和这些对手展开竞争,“我们和政府合作是因为政府需要大量的数字技术,而我们目前正在讨论的就是AI”。

在AI领域深耕10几年的谷歌目前正急于将AI和云计算业务加以整合。而对云计算需求最高的政府部门莫过于军队了。Medin和Alphabet总监Schmidt都是五角大楼国防创新委员会的成员,二人一直在极力撮合谷歌和政府合作,为后者在打击恐怖主义、网络安全、电信等方面提供帮助。为了在云计算业务领域独占头把交椅,同时实现Pichai把谷歌打造成“第一AI公司”的愿望,谷歌似乎除了介入战争生意并没其它选择。

另外,来自政府方面的友好信号也是促进双方进一步达成合作意向的重要原因。为了面对来自中国和俄罗斯方面的竞争威胁,特朗普政府对AI技术的态度开始由之前的摇摆不定转为积极拥抱。4月2日,Maven项目再次获得一亿美元的政府资金。很多军方官员都将该项目视为减少耗时任务和提升作战效率的关键方式。

美国国防部发言人哈里斯称“我们能确认的是,Maven项目将会和很多供应商建立合作关系,国防部代表会定期和多家公司负责人会面,共同商讨现有项目的进程”“由于内部讨论的都是很隐私的内容,所以现在不方便提供更多细节”。

写在最后

斯诺登事件发生后,美国国家安全局曾被指利用谷歌网络秘密监督用户行为,谷歌方面对此予以驳斥。之后双方的关系一直都很僵硬,所以部分谷歌高管会认为这是与美国政府重归于好的好机会。但是员工的情绪又如何安抚呢?这才是谷歌要解决的大问题,毕竟一句“就算我们不做,其他人也会做”这样的说辞是很难让所有人都心服口服的。

  • 好文
  • 钦佩
  • 喜欢
  • 泪奔
  • 可爱
  • 思考

凤凰网科技官方微信

凤凰新闻 天天有料
分享到: