前沿科技创业的驱动者

专家警告未来自主武器或可自己选择并攻击目标

Y_Pi-fxqxqmf4205947

虽然我们离在战场上部署自主武器还有一些时日,但专家认为,各国研制出的机器人并不会具备道德观念。并且自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。但有些国家已经开始在战场上使用无人运输机了,如图中所示的“收割者”无人机。

  在战场上使用自主武器能够大大减轻军人的负担,但有专家警告称,自主武器会对我们的安全造成一定的威胁。研究人员在今年1月于瑞士达沃斯举办的世界经济论坛上表示,他们很担心这些战争机器会被用于不道德的军事行动中,成为黑客操纵的工具。

okyl-fxrcizu3717648

为了让机器人具有“道德观念”,研究人员可以在编程时写入一些特定指令,防止它们成为害群之马。图为福斯特?米勒“魔爪”机器人,上面配备了多种武器。但专家认为,一旦它具备了一定的自动化程度,就有可能反叛人类的指令,攻击错误的目标。

  与完全受人类控制的无人机不同,未来的自主武器或许可以自己选择并攻击目标。“这是我们去年提出的一系列新问题之一。”新南威尔士大学计算机科学与工程学院的人工智能教授托比?沃尔士(Toby Walsh)说道,“我们中的大多数人都认为,我们还没有能力制造有道德意识的机器人。最令人担忧的是,很多国家在最近这几年内就会将机器人用于实战当中,而我相信这些机器人都是没有道德观念的。”

RTau-fxrcizu3717688

《钢铁侠2》中的机器人(如图所示)也许和现实的差距并不大,但专家担心,一旦它们落入黑客手中,势必会在战场上引起严重的骚乱。专家们担心的不只是机器人设备本身,他们更担心黑客会侵入整个无人武器系统。

  为了让机器人具有“道德观念”,研究人员可以在编程时写入一些特定指令,防止它们成为害群之马。例如,科幻小说作家艾萨克?阿西莫夫(Isaac Asimov)就曾写过一则名为《环舞》(Runaround)的短篇小说,其中提出了主宰机器人行为的三大定律。

“第一,机器人不得伤害人类,或因其不作为而使人类受到伤害。”

  “第二,机器人必须遵守人类发出的指令,除非该指令违反了机器人第一定律。”

  “第三,只要保护措施不违背第一或第二定律,机器人就必须尽可能地保护自己。”

  虽然专家们认为这几条定律能帮助我们研发具有道德意识的机器人,但要在设计中运用这几条定律,最终还是要依靠机器人的创造者。

  还有些人认为,我们的担心纯属多余。

  “首先,这样的武器目前还不存在,”新美国安全中心伦理自治项目的首席研究员和主管保罗?斯加瑞(Paul Scharre)说道,“大多数武器系统还没有达到这样的智能水平,即使是最先进的系统也只能通过纠正来帮助我们击中目标,而无法自行选择目标。”斯加瑞还指出,即使我们可以在战争中使用自主武器,要生产出符合交战规定的武器,也不是件容易的事情。“就算它们的操作是合法的,自主武器还会带来严重的道德和伦理问题。让一台机器掌握生死大权,这样做真的正确吗?”斯加瑞说道。“另外,就算自主武器是合法的、且符合道德的,它们也可能非常危险。万一出现机器故障,或是敌军黑进了自主武器系统,都会造成非常严重的后果。”

5Sud-fxrckae7582774

不管自主武器是否受人类控制,自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。图为MQ-9“死神”无人机,一旦受到黑客入侵,就可能对错误的目标发起攻击。

  目前还没有任何国家使用自主武器,但有些国家已经开始在战区部署无人运输工具了。

  如果黑客侵入了自主武器的防御系统,就可能在战场上引发可怕的骚乱。

  “研究人员正在努力加强数据链接的编码,让自主武器与控制者之间的连接更加安全。” 《简氏国际防务评论》(Jane’s International Defence Review)的编辑休?威廉姆斯(Huw Williams)说道,“但无论这些编码完善与否,担心都仍然存在,而且数据链接还是有被破坏的危险。”

  不管自主武器是否受人类控制,自主武器的系统自动化程度越高,受黑客入侵的风险也就越大。

文  新浪科技(叶子)

分享到:

相关推荐

  • Use R

    R语言中的t检验丨数析学院

    问题 在R中,我们如何检验从总体中抽样得到的两组样本是否有不同的均值,或是通过总体中的某一组样本检验总体均值与某一理论均值间的差异。 指南 示例数据 我们选择内置的sleep数据集作为示例数据。 接下来,我们将sleep数据集处理为宽数据;在之前发布的教程中,我们曾谈到过数据集长宽转换的方法...

  • 6a-l-fxvqctu5874469

    中科院团队新研究突破:让液态金属机器能“跑”能“跳”

    《终结者2》中的液态金属机器人T-1000 1991年,电影《终结者2》中出现了一款强大的机器人T-1000,这个用液态金属打造的机器人无论遭遇到多大的伤害都可以瞬间自动复原,甚至可以随意改变身体形状和脸部容貌。这种变形机器人一直以来都是科学家的目标之一,如今,中国科学家在液态金属领域的一项研究获突...

  • 1472695938486429

    核聚变电厂计划:新一代核聚变设备让能量用之不竭

      内容摘要 据国外媒体报道,美国政府的科学家们计划创造一颗“罐子中的恒星”,在地球上复制出太阳和其它恒星通过核聚变产生能量的方式。如果成功的话,人类将会获得取之不尽、用之不竭的能量,再也不需要依赖化石燃料来产生电力了。   新一代核聚变设备 美国能源部普林...

  • QQ截图20160918112903

    两院院士严东生在沪逝世 享年98岁

    中国共产党优秀党员,九三学社社员,我国著名材料科学家、战略科学家、教育家,中国共产党第十一届中央纪律检查委员会委员,第十二届中央委员会委员,第六、七届全国政协常委,第六、七届上海市政协副主席,中国科学院原党组书记、副院长,中国科学院、中国工程院资深院士,中国科学院特邀顾问,中国...

  • QQ截图20160913095532

    焦虑魔方来了!帮你赶走负能量

      内容摘要 对于一个容易烦躁焦虑的人来说,在无聊的时候总会找一些事情来打发时间,比如把用过的纸杯撕成碎片,或是仔细的涂涂指甲油,要不就转转笔什么的,貌似学生党最爱这些掌上小游戏。当然挤泡泡这种高大上的小游戏想必大家都很喜欢吧。   Mark和Matthew McLachl...

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

SME 前沿科技创业的驱动者