设为首页 加入收藏 会员登录 微信公众号 手机版
贸讯首页 世界文化 环球旅游 收藏 汽车汽配 IT通讯 电子电气 家电家居 纺织服装 礼品玩具 医药保健 食品饮料 商务信息 安全防护
世界贸易 国际城市 国际金融 图片 国际健康 机械机电 建材家具 化工橡塑 环保科技 能源冶金 农林牧渔 仪器仪表 贸讯超市 贸讯论坛
当前位置:主页 > 电子电气 > 人机界面 >

我们有能力控制明天的杀手机器人吗?

来源:IEEE电气电子工程师学会 添加时间:2017-08-20 21:29


随着人工智能的发展,可以自主选择目标进行攻击的机器人正在迅速成为现实。在新技术的推动下,人类可能会放弃决定如何使用致命武力的控制权。完全自主的武器也被称为“杀手机器人”,它们正在迅速从科幻作品走向现实世界。
 
但是,随着这些系统获得越来越多的智力和独立性,他们日益增加的自主权使得一些批评者担心人类赋予了太多的权力在我们不完全理解的设备上(我们可能不完全可以控制)。
 
据悉,自主武器系统(AWS)的构成取决于使用哪种武器,因为这些系统表现出不同程度的独立性。意识和军事目标的反应(SARMO)的武器如Phalanx和C-RAM能够对入侵的火炮和导弹威胁作出反应,在没有人为监督的情况下瞄准和引导他们。然而,这些并不是完全自主的,它们只是执行一套自动化任务。他们不会比将汽车的框架焊接在一起的装配线机器人更“智能”。该机器人不能进行决策,只是对外部刺激做出反应。
 
尽管俄罗斯声称,完全自主的武器能够选择,识别和参与没有人力投入的行动,但该项目尚未被任何国家实施。不过,包括中国,英国,以色列在内的一些国家,当然还有美国和俄罗斯,都正在开展前期研发工作。因此,现在是制定监管框架的时候了,国际机器人武器管制委员会(ICRAC)在2014年在联合国的“专家会议”之前如此辩称。
 
在一定程度上,五角大楼和英国国防部(MoD)都制定了AWS开发的内部指南。 2012年,五角大楼发布了第3000.09号指令,其中规定“自主和半自主武器系统的设计应允许指挥官和操作人员对使用武力进行适当的人为判断。同样地,哈弗斯·阿斯特(Lord Astor)在2013年对议会说:“国防部目前并不打算开发没有人为干预的系统。”
 
指令3000.09进一步将自主武器系统(AWS)定义为“一旦被激活,可以在没有人类操作员进一步干预的情况下选择和使用目标的武器系统”。这不同于半自主武器,只能识别和呈现人类选择的目标。是否存在“循环”中的人机界面,具有覆盖AWS定位决策的能力,或完全没有任何人为疏忽(“走出环路”)与自主武器系统(AWS)无异。那么国防部是什么意思是“适当的人的判断水平”呢?
 
“我们已经与美国就此进行了辩论,他们不会说”适当的控制“是什么意思,”谢菲尔德大学人工智能和机器人教、国际机器人武装控制委员会主席Noel Sharkey,告诉Engadget。 “自[ICRAC]在联合国的竞选活动以来的最后四年,总是‘一切都会受到人类的控制’,但没有人会说以什么方式被人类控制。
 
Sharkey认为,“适当的控制”论证导致了一个滑坡的责任,这取决于如何界定“控制”。自治武器系统:法律,伦理,政策,Sharkey在他的书中提出了一个五点规模,即可能构成人类控制水平的下降:
 
1、人类识别,选择和参与目标,启动所有攻击
2、人工智能建议目标替代方案,但人类仍然会发起攻击
3、人工智能选择目标,但在攻击发起之前人类必须批准
4、人工智能选择目标,启动攻击,但人有否决权
5、人工智能识别,选择和实现目标,而不需要人为的监督
 
所有这些方案都有其相对的好处,这取决于情况和武器系统的控制。事实上,爱国者导弹系统的作战规则类似于第4点。遵守第5点的武器尚未到达战场,尽管不是因为缺乏兴趣而已。像BAE塔拉尼斯这样的无人机具有定位,识别和参与能力的能力(但只有通过任务指挥的OK),尽管它也可以自主地防御入侵的火力和敌机。虽然三星严格否认这些指控,但目前在韩国非军事区内部署的SGR-A1防空炮塔据说有能力自行识别和完全配合敌方部队。
 
尽管沙基认为五角大楼对“适当的管制”进行了沉默,但国防部发言人向Engadget指出,联合参谋长联席会议副主席保罗·谢尔娃将军在最近参议院的证词中指出,不认为“放置机器人负责人类生活是否合理”。国防部援引其数十年来使用的宙斯盾系统作为其自主武器(或至少具有自主特征的人员)的有效运作的证据。
 
国防部发言人说:“环境与环境问题在确定使用武力时所行使的人为判断的适当程度方面。 “像任何其他武器一样,给定的自主武器系统可能适用于一个操作环境和目的,而不是另一个。”
 
鉴于五角大楼的立场,有利于维系一个人(至少在某种形式),即使有一个准备作战的AWS也不能保证在将来的冲突中使用。使用AWS的决定将在许多因素上得到平衡,包括“对系统的信任、培训、与情况相关的风险级别”,国防部发言人说,同样受到运营商“工作量,压力和经验的影响”。
 
也就是说,如果我们的对手决定做同样的事情,五角大楼还没有完全排除人为的疏忽。国防部发言人说:“国防部的自治区充分意识到,美国制定的法律和道德框架与目前的潜在对手不同。而应该说,中国或俄罗斯开发出一个毁灭性的新的人工智能控制的AWS,五角大楼将“不得不提出解决方案,其中的响应发生得比”循环中的人“要快得多。
 
更重要的是,Just Security的Paul Scharre认为,世界军队有充分的理由保持人力控制:当这种武器在运输时,当地情况会发生变化,才能重新瞄准这些数百万美元的弹药。
 
然而,Sharkey没有印象深刻。他说:“多年来,在联合国工作的这个年头,我已经非常清楚,没有一个是杀死平民”他说。 “这个目标是不要浪费昂贵的弹药,所以你想要尽可能地达到目标,但如果它是一个高价值的目标,就像他们在”比例原则“下所说的那样,那就没关系一些平民或一百平民,如果是本·拉登,或任何一个。事实上,世界最近目睹了在伊拉克摩苏尔解放(和毁灭)时使用精确弹药造成的破坏。
 
教授也关注这些武器系统用于隐蔽目标识别和获取的能力。 Sharkey在2015年“华尔街日报”杂志上提到,“连接到云端,以便与其他机器人协同工作,他们将成为从远方和空中识别和跟踪大量人群的完美工具”。 “未来攻击的威胁将使这些机器人难以再次消失。”特别是如果这种技术应该落入极端主义的非国家行为者的手中。
 
那么最后呢,似乎人工智能武器,就像他们之前的原子弹和V-2火箭一样,最终会走向未来的战场,无论我们喜欢还是不喜欢。就像核技术一样,人工智能的潜力也不能保证这样的滥用。国际社会必须一劳永逸地决定我们要集体的未来如何。并且我们是否希望它由终结者运行。

(责任编辑:许丁)

分享到:
图片资讯

讯贸网版权及免责声明:
1、凡本网注明“来源:贸讯网” 的所有作品,版权均属于贸讯网所有,未经本网授权,任何单位及个人不得转载、摘编或以其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:贸讯网”。违反上述声明者,本网将追究其相关法律责任。
2、凡本网注明 “来源:其他媒体的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。?
3、如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。
※ 有关作品版权事宜请联系:QQ2244610517

  最新新闻
· 麻省理工学院研究人员使用无人机追踪仓库库存
· 国产医疗器械水平提升 产业逐渐迈入高端市场
· 受益创新中高端产品 方便面行业销售额同比增长4
· 玩具变“潮” 是我们长不大还是它已成为一种亚
· 榻榻米和书桌的组合,才是小户型的最佳选择
· 海信推NU7700影响力系列电视新品 采用空气声场
· 2017年北京洪堡论坛在对外经济贸易大学举行
· 晚饭十种宝,一生身体好
· 住房租赁REITs酝酿启动 证监会相关政策在制定中
· e租宝案宣判 26人获刑 涉案公司被罚19亿
· 财政部:新能源汽车扶持力度不会断档
· 抢万亿市场 汽车后市场竞争加剧
· VR未来是千载难逢or荆棘遍布?“虚热虚寒”背后
· 环保税开征进入倒计时
· 乙醇汽油将来要唱主角?国家十五部委将推车用乙
  热点新闻
· 麻省理工学院研究人员使用无人机追踪仓库库
· 我们有能力控制明天的杀手机器人吗?
· 用“免触控”的方式实现人机交互,这种超音
· 通过GC Nano技术提升用户界面体验
· 人机交互方式的三大方向
· CM发布主题应用:打造个性的用户界面
· 亚马逊怒发大招:Echo或成人机界面的未来
· 采用光学技术的先进汽车人机界面
· 日产谈自动驾驶时代的人机界面
· 自动驾驶需新的人机界面
  相关新闻
· 采用光学技术的先进汽车人机界面
· “人机界面”更可人
· 用“免触控”的方式实现人机交互,这种超音波飞行
· 大陆LED产业景气正逐渐回升
· 亚马逊怒发大招:Echo或成人机界面的未来
· CM发布主题应用:打造个性的用户界面
· 我们有能力控制明天的杀手机器人吗?
· 专家带你看车展之如何评价人机界面?
· 日产谈自动驾驶时代的人机界面
· 触屏技术如何改变了人机互动的面貌