美媒:AI可能被精心编辑过的词语迷惑 会产生严
发布时间:2020-04-08 22:36 来源: 未知 作者: admin 投稿邮箱:

2月24日报道美媒称,人工智能(AI)最近在理解语言方面取得了巨大进步,但它仍然可能出现一种令人担忧、甚至可能十分危险的算法,即改动一个单词就可能改变人工智能程序评价求

   2月24日报道美媒称,人工智能(AI)最近在理解语言方面取得了巨大进步,但它仍然可能出现一种令人担忧、甚至可能十分危险的算法,即改动一个单词就可能改变人工智能程序评价求职者或评估医疗理赔的方式。

   据美国连线杂志网站2月23日报道,研究表明,分析文本的人工智能程序可能被精心编制的短语所迷惑和欺骗。

   对你我来说似乎直截了当的一句话可能拥有欺骗人工智能算法的奇特能力。

   报道称,麻省理工学院研究生金迪(音)与来自香港大学和新加坡科技研究局的研究人员开发出了一种可以欺骗基于文本的人工智能程序的技术。

   金迪(音)说,如果这种对抗的例子被用来欺骗金融或医疗领域的自动化系统,结果可能会尤为有害,因为这些领域哪怕是很小的变化都可能带来很多麻烦。 金迪(音)和同事们设计出一种算法,它能在不改变文本含义的情况下欺骗人工智能系统。

   该算法使用人工智能来建议哪些单词应该转换成同义词,以此欺骗机器。

   研究人员利用几种流行的算法和数据集检验了他们的方法,他们能够将一种算法的准确率从90%以上降低到10%以下。 然而,人们一般认为修改后的短语具有同样的含义。

阅读排行榜

编辑推荐

本站二维码

关注微信公众号,了解最新精彩内容