中工网首页时政评论国际军事社会财经企业工会维权就业论坛博客理论人物网视图画体育汽车文化书画教育读书娱乐旅游绿色城建社区打工

理论

科技

人工智能也是“双刃剑”

王鹏
2018-12-06 08:52:17  来源:中国青年报

  近日,根据“2019财年国防授权法案”批准,美国成立了人工智能国家安全委员会。这是今年美国继国防部组建联合人工智能中心后,在国家安全领域成立的又一个更高层次的人工智能专门咨询机构。按照要求,该委员会将采取必要的方法和手段,推动美国人工智能、机器学习和相关技术的发展,全面满足美国国家安全和国防需要。此举意味着,美国将人工智能的军事应用进一步提升到国家安全的战略层面。

  据悉,此次成立的美国人工智能国家安全委员会由美国众议院武装部队新兴威胁与能力小组委员会提议成立,由15名成员组成。该委员会的使命是着眼于美国的竞争力、国家保持竞争力的方式,以及需要关注的“道德问题”,审查人工智能、机器学习开发和相关技术的进展情况。具体职责包括:考察人工智能在军事应用中的风险以及对国际法的影响;考察人工智能在国家安全和国防中的伦理道德问题;建立公开训练数据的标准,推动公开训练数据的共享。

  从国家安全的战略层面出发,美国推动人工智能技术发展的目的在于始终保持技术引领和优势地位的战略态势。9月7日,美国国防部高级研究计划局在成立60周年大会上,宣布将投资20亿美元推动人工智能领域的发展。以国防部高级研究计划局为代表的技术研究机构对人工智能的研究早已不再局限于人们熟知的无人系统,而是诸如“机器如何获得类似人类的沟通和推理能力”等方面更深层次的机理研究。

  同时,美国还特别强调在人工智能领域保持对潜在对手的优势地位。美国国防部常务副部长罗伯特·沃克曾表示,“人工智能是当前美国国防战略的主要组成部分,目的在于重塑美国的军事技术优势。”

  在这两方面因素的推动下,美国政府不断加大在人工智能领域的投资力度。今年年初公布的《国防战略报告》就明确提出,将向自主技术、人工智能和机器学习等军事应用注入更多资金,加快吸收商业领域突破性技术,以获取军事竞争优势。按照计划,美军将在2019财年投入137亿美元,支持包括人工智能、无人系统在内的尖端技术研发创新。

  随着对人工智能研究的深入,美国在充分开发人工智能技术优势的同时,也开始关注到人工智能可能带来的技术风险和应用威胁。10月10日,美国陆军训练与条令司令部发起了一项“疯狂科学家”的调查活动,专门探讨人工智能在未来战场上的影响。在收到的115名参与者提交的意见书中,形成了8个方面的意见。其中一个方面专门指出需要对抗人工智能带来的风险,即人工智能支持的数据和算法容易受到欺骗、降级或其他形式的颠覆。其中,致命的自主性则是最受关注的问题。

  今年7月,智库新美国安全中心发布报告认为,人工智能技术的未来不可限量,但是目前仍然不成熟,存在4个方面的隐患:一是机器可能作弊,即人工智能系统可能在违背人类设计本意的情况下去完成任务;二是机器也有“偏见”,即在数据保障不充分的情况下,人工智能系统的错误反应可能会造成灾难性后果;三是AI的思考过程是个谜,即人工智能有一部分行为是不为人类所理解的;四是人机互动失败,即设计师与用户之间的差异可能造成人机互动失败而带来风险。美国兰德公司今年年初在一项研究中警告说,军事人工智能系统在分析局势时出错的可能性将会导致各国作出轻率的、潜在的灾难性决定。

  为此,美国开始认识到人工智能不仅是一个领域(尤其是军事领域)的应用问题,而应在政府层面有所规划。今年9月,美国众议院监督和政府改革委员会信息技术小组在发布的《机器的崛起》报告中指出,人工智能有可能以预期和意料之外的方式扰乱社会的每一个部门。鉴于这种潜在的危险,联邦政府必须解决人工智能带来的不同挑战,包括其当前和未来的应用。而这一理念在军事技术上的直接体现,就是保持对某些任务的控制权。美国国防部高级研究计划局目前正在开发一种合作自主系统,确保人类可以实现“进入决策”,即机器是自主的,但需由人类监督。可见,美军也意识到,无论人工智能有多先进,也不能把战争完全交给机器。

  (作者单位:空军工程大学)

  

编辑:张苇柠

书库

工运

  • 新时代青年职业选择的价值省思

    1835年8月,中学毕业的马克思撰写了《青年在选择职业时的考虑》,这是他在思考自身生命轨迹甚至人类前途时在这简短的文字中,马克思的择业观可见一斑,那就是从事为全人类谋福祉的事业并甘愿为之贡献一生。当代中国青年也正处在和马克思当年一样的年龄阶段

  • 快递员维权遇困境 工会援助促和解

    伴随着服务业的蓬勃发展和大众消费模式的转变,快递员队伍不断壮大。然而,有些快递公司用工管理不规范,不少快递员在维权过程中遇到一些困难。2018年4月,曾某来到合肥市职工帮扶中心寻求法律援助。职工帮扶中心指派法律援助律师详细地了解曾某的主要诉求和现有证据。

  • 把握工会组织的新使命新担当

    习近平总书记始终高度重视工人阶级和工会工作,领导召开党的历史上第一次中央党的群团工作会议,指导制定加强和改进党的群团工作意见、全总改革试点方案和产业工人队伍建设改革方案,每到一地考察都深入基层看望劳动模范和一线职工,亲临全总机关与劳模代表座谈,给“郭明义爱心团队”、中国劳动关系学院劳模本科班学员回信,就工人阶级和工会工作作出重要指示,深刻阐明了工会工作地位作用、目标任务、实践要求,形成了习近平总书记关于工人阶级和工会工作的重要论述。

  • 奋力开创新时代工运事业和工会工作新局面

    2018年10月22日至26日,中国工会第十七次全国代表大会胜利召开。10月29日,习近平总书记在同中华全国总工会新一届领导班子成员集体谈话时发表重要讲话习近平总书记始终高度关心重视工人阶级和工会工作,对工人阶级和工会工作的思考一以贯之。党的十八大以来,习近平总书记围绕工人阶级和工会工作多次发表重要讲话、作出重要指示

访谈

文献

  • 初心不负映日月 丹心碧血铸忠魂

    我为革命而死了,你不要悲伤,不要难过,应抚养爱生,以继予志。我的财产由你继承。——这是临刑前王步文写给妻子方启坤绝笔信的全部内容。王步文,中国共产党安徽省委第一任书记,为中国共产党早期在安徽发展作出了卓越贡献。1931年,年仅33岁的王步文在安庆英勇就义。

  • 革命大家庭的无私大爱

    老一辈无产阶级革命家留下的红色家书中,有一类家书格外特别,这类家书,是专门写给烈士后人的。它冲破和超越了血缘亲缘关系的藩篱革命军人有进无退,曹渊壮烈牺牲曹渊,1902年生于安徽寿县,黄埔军校第一期第三队学员。在周恩来同志领导平定广州商团叛乱和两次东征中

排行

新闻日历
关于我们 | 广告服务 | 联系我们 | 本站地图 | 投稿邮箱 | 版权声明 | 违法和不良信息举报电话:010-84151598 | 网络敲诈和有偿删帖举报电话:010-84151598
Copyright © 2008-2018 by www.workercn.cn. all rights reserved
扫码关注



工人日报
客户端
苹果版
安卓版