EFF指Google高层说谎,声援员工反对AI军用化
2018-04-09 12:31:04 | 来源:ithome | 投稿:小艾 | 编辑:dations

原标题:EFF指Google高层说谎,声援员工反对AI军用化

图片来源:

美国国防部

在3月时,媒体揭露Google正与美国国防部合作执行Maven计划,以人工智能(AI)技术分辨飞行器所拍摄的视频中的物体,这项计划引发Google员工不满,即便官方曾声明,Google仅提供机器学习服务TensorFlow△API,且参与的部分并未用于攻击之用。员工仍无法信服,连署写信要求Google执行长Pichai△Sundararajan即刻停止Maven合作计划,且订立明确政策,保证Google未来也不会加入这类计划。

电子前线基金会(Electronic△Frontier△Foundation,EFF)表示,目前看起来的情况完全不如Google官方声明的那样,员工寄给Pichai△Sundararajan的信件暗示,Google不仅只有提供TensorFlow△API,还提供公司最先进的机器学习专业,以及工程人员直接协助美国国防部。

而对于Google官方声明,所参与的影像识别并无用于攻击之用,EFF引述美国国防部自家的文章以及文件,其影像分析技术被经常性的用于反叛以及反恐任务。这些证据显示Google所参与的Maven计划内容,与官方宣称的完全不同。

EFF表示,如果他们对这些公开文件理解正确,Google的系统会标记无人机拍摄到的物体及人物供军方审查,并在某些情况,军方会发射导弹袭击这些目标。

EFF乐见Google内部对于此专案的辩论以及行动,也对人工智能的应用提出看法。EFF认为,当社会就人工智能的非军事用途的透明度、风险以及问责制度,还未达一定程度的共识时,贸然地在军事用途上使用,更是危险的行为。

EFF还提到,目前的人工智能技术仍处在难以控制的阶段,而且往往在令人意料之外的情况下失效,当这些失效发生在军事行动的应用上,所造成的结果将可能使冲突升级或是更大的不稳定。

目前没有任何人工智能应用在军事行动上的安全和道德的公共标准,EFF指出,Google高层不应假设,军事机构已经充分评估了风险,或是不负责的认为不需考虑责任归属问题。

对于人工智能应用在军事上的现况,EFF提出4个问题,第一问、是否应该要建立具有约束力的国际组织,来限制人工智能的军事用途?EFF表示,或许这件事很困难,或是有其他方式代替,只是现行结构令人不安,以人工智能用在目标识别上是一个明确的项目,应该制定法律来规范。

第二问、是否有可信的研究过程或是部署,来减缓人工智能可能导致的安全以及地缘的不稳定问题。第三问、军事承包机构是否可以保证不将人工智能应用在自主攻击性武器?或是确保任何防御性的自主武器都经过精密设计,能够避免意外伤害。第四问、是否可以建立独立的伦理委员会?能以公开透明的方式进行责任监督,并且具备否决计划的权利。

EFF认为,Maven计划是这项议题的起点,而Maven计划的细节并未对外公开,但尽管如此,显然Google无论是对公司员工或是对社会大众,都没有以公开透明的负责态度处理此事。

tags:

上一篇  下一篇

相关:

欧洲也将有云端法案!EFF近百团体要求应全程公民参与

图片来源: EFF 电子前锋基金会(Electronic△Frontier△Foundation,EFF)与其他93个公民团体递交公开信给欧盟秘书长Thorbj?rn△Jagland,要求网络犯罪公约的订定,应该全程都有公民参与,以免重蹈美国云端法案(Cla

Google开源iOS自动化测试框架GTXiLib

Google在博客宣布开源了iOS自动化测试框架GTXiLib,可以自动化检测缺少标签、提示或是低对比文字的问题,为iOS开发者检查App的可用性。最近Google在帮助开发者提升App可用性上动作频频,不只发布了无障碍技术的指导方

Google VirusTotal推出Android沙箱服务

图片来源: VirusTotal Google的防毒扫瞄引擎VirusTotal部门周四宣布推出新的Android沙箱服务名为Droidy。VirusTotal为病毒、木马和各种恶意软件分析服务,为Google△2012年收购,旨在提升Google自身网际网络服务的防

Google第二代行动装置版电脑视觉神经网络模型出炉!让手机执行影像分辨更快更准,

Google在去年6月推出行动装置版的电脑视觉神经网络模型MobileNetV1,近日则在官方博客中宣布推出第二代MobileNetV2,改善了分类、物件侦测和语义分割(Semantic△Segmentation)技术,不论是速度和准确率都有所提升,

不靠地图认路,AI靠强化学习看街景自行学会导航

图片来源: DeepMind DeepMind最近于官方博客公布最新的一项研究,靠着强化学习,让AI在没有准确的地图作为训练资料的情况下,只通过Google的街景图学会导航,就像人在学习认路的过程一样。DeepMind表示,导航是人类和

站长推荐: