首页 资讯频道 互联频道 智能频道 网络 数据频道 安全频道 服务器频道 存储频道

什么是反人工智能 反人工智能的本质是什么

2020-09-24 13:43:14 来源 : 国防科技要闻-今日头条

人工智能具有技术、社会、法律、伦理和军事等属性相互融合的特征。一方面,它促进了巨大的技术和社会的变革,并深刻影响了军事武器。人工智能已经成为国家战略和新的核心竞争力。另一方面,它可能带来诸多风险和挑战,人工智能可能失控并自主造成伤害的问题同样不容忽视。

目前,世界上任何军事大国都将反人工智能视为未来最重要的军事技术,从而加大对反人工智能武器的投入。美国国防部开始制定总体计划,以建立将反人工智能部署到军队的系统。反人工智能在军事领域的使用正在蓬勃发展,反人工智能设备的广泛使用不仅将对传统战争形式产生重大的变革,还将对军事领导和控制理论产生重大影响。应加快反人工智能在军事领域应用的研究,在研究反人工智能武器和装备期间,我们还必须确保我们更新和完善针对反人工智能战争条件下的指挥与控制理论。

军事领域的反人工智能

人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术以及应用系统的一门新的技术科学。反人工智能则是在人机协同的条件下,从数据、算法、硬件等角度可以反制对手人工智能算法、装备的理论、方法和技术。反制包括:让其人工智能失效、误导对方人工智能、获取对方人工智能真实意图,甚至进行反击等。

人工智能和反人工智能的本质是相互博弈。在军事领域使用反人工智能正在催生一种全新的战争形式。尽管在军事领域仍将反人工智能的应用视为未来的现实,但随着反人工智能的发展,反人工智能在军事领域的应用在新世纪的局部战争中已初现端倪。一些反人工智能军事武器已用于实际战斗中,从根本上改变了现代战争的模式和战斗方法。

反人工智能的本质

反人工智能的本质是诈与反诈,孙子兵法有云:“兵不厌诈”, “以虞待不虞者胜”。不要试图通过来反人工智能发现所有的欺诈行动,要学会辨别真与假,在欺诈的迷雾中前进。

反人工智能处于初级阶段。到目前为止,反人工智能技术的发展经历了两个阶段。最初,大多数反人工智能技术是通过误导或混淆机器学习模型或训练数据,这是一种简单粗暴的方法。但是,由于机器学习模型通常是在封闭环境进行训练,因此很难获得外部干扰。随着神经网络的发展,对抗神经网络开启了反人工智能技术的第二条技术路线。研究人员可以将基于对抗数据周围的神经网络用于生成反馈数据,使机器学习模型在识别和行动期间做出错误的判断,该方法与机器学习技术相似,可以达到初级反人工智能的效果。

博弈游戏一直是反人工智能领域的重要研究课题。根据是否可以完全了解博弈信息,可以将其细分为完整和不完整的信息集。完整信息集这意味着博弈中的所有参与者都可以完全获得游戏的所有信息,例如在围棋和象棋游戏中,双方都可以完全了解所有的碎片信息和对手的行动计划。不完整的信息集是指参与者无法获得完整的信息,并且只有部分信息可见的事实。例如,在麻将或扑克中,玩家无法控制另一位玩家的分布或手牌,只能根据当前情况做出最优决策。

目前军事领域的反人工智能实践发展迅速,但也存在许多危机。当前,反人工智能只能做一些基础工作,大多数情况它并不理解这么做的原因,只是因为数据处理的结果告诉它那样做会有最优解。如果反人工智能系统不完全了解其功能或周围环境,则可能会产生危险的结果。特别是在军事战争中,任何事情都可能发生,并不是仅仅靠数据就能完全解决或预测的,此时反人工智能就有可能执行错误的行动,造成难以估计的后果。反人工智能在军事领域的训练数据稍有偏差就有可能埋下安全隐患;如果攻击者使用恶意数据复制训练模式,则将导致军事上实施反人工智能的重大错误。

最近更新