Stefan Feuerriegel教授是德国慕尼黑大学人工智能(AI)管理研究所所长，他的研究重点是数字化浪潮带来的挑战。
在最近发表在《自然人类行为》杂志上的一篇评论中，他指出了人工智能产生的虚假信息带来的危险，并提出了应对这些危险的方法。
Stefan Feuerriegel:今年春天，教皇方济各(Pope Francis)的照片在网上疯传，这说明了这种人工生成的内容是多么令人信服。普通人几乎没有能力辨别这幅画的真伪。当然，在过去，有天赋的艺术家可以用赝品来欺骗公众和专家。
但就教皇的照片而言，一个人很快就把这张照片制作成了几十个版本。这突出了今天人工智能的可能性——制作这些图像很容易，你不需要特殊的技能。
目前，人工智能程序仍然不能很好地处理一些个人细节:有时，背景有点偏离，人工智能有一个习惯，即渲染手指过多或过少的手。然而，工程师们正在快速开发和优化这项技术。在接下来的几个月里，改善将会很明显。
不幸的是，不仅没有错误的文字和看起来很真实的图片已经非常令人信服，而且人工智能使错误信息个性化成为可能，并根据个人消费者的宗教、性别或政治信念进行定制，并在每个目标群体中播下愤怒或仇恨。
你可以建立一个机器人，它不再只是发布消息，而是在Facebook或Twitter上亲自给人们写信，回复回复，并进行对话。这甚至延伸到假电话，骗子或其他坏人故意制造一个听起来像一个人的家庭成员的声音。
至于内容，没有任何标志。或者至少很快就不会有了。要么你依靠某些可靠的来源，要么你必须自己做研究。话虽如此，你应该意识到，虚假事实的提供者可以通过人工智能生成的网站和来源获得突出的搜索引擎排名。此外，在社交网络中，图片是如此之小，以至于人们甚至无法发现可能存在的任何错误。
互联网上流传着一些低分辨率的图片和视频，人们无法正确判断它们是真的还是假的。这使得很难区分虚假信息和真实内容。在武装冲突中，图像和社交媒体的力量发挥着重要作用，可能产生爆炸性的政治影响。在这方面，我们也已经看到人工智能生成的材料与传统赝品一起被部署。
我的许多同事都在说，我们实际上已经生活在一个假新闻时代。问题只会变得更糟。决定性的问题是:谁在开发这些新的可能性?我不太担心个人通过ChatGPT或DALL·E传播错误信息。这样的人很少有能力，或者说很少有欲望去施加重大影响。相反，我们必须密切关注使用这些工具进行大规模虚假信息宣传的行为者，故意对其进行校准，甚至在没有任何内置安全机制的情况下开发自己的工具。
当大玩家加入进来时，事情就会变得非常危险——比如，在一个非民主国家，一个带有特定政治议程的国家行为体。在俄罗斯入侵乌克兰的过程中，我们已经看到亲俄宣传投入了多少努力。事实上，那些负责任的机构为什么不使用这些新工具呢?这些工具使它们能够更快地做出反应，并在更大的范围内生产看似真实的内容。如果认为这些机会得不到利用，那将是na?ve。
我们知道，人类事实核查员需要长达24小时的时间来核实新闻报道。到这个时候，它可能早就传播开来了。特别是在当前的危机中，在错误信息传播之前揭穿它是一项巨大的挑战。Facebook和Twitter目前正在使用生成式人工智能来自动识别假新闻。
还有关于使用水印的讨论，通过这种方式，平台可以识别和过滤掉人工智能生成的内容。这需要平台的合作。如果推特利用这个工具，这是没有用的，但错误的信息会在WhatsApp上传播开来。此外，仍有可能存在不尊重规则的行为者，他们自己编写了没有水印的人工智能。
就我个人而言，我在消费内容方面变得更加谨慎。我们必须对我们所阅读的内容更加警惕，尤其是在社交网络上。不幸的是，许多人没有意识到这个问题。尽管他们知道人工智能能够产生高质量的文本和逼真的图片，但他们还没有意识到这项技术如何被滥用。
首先，必须让平台履行自己的责任。他们知道信息的来源。用户只能看到帖子，而平台可以看到是一些计算机程序在后台发布这些内容，还是一个真实的人在背后发布这些内容。此外，网络运营商可以提醒其成员批判性地评估和检查信息。平台还可以做更多的事情来过滤假新闻——有些平台在这方面做出了努力，有些则没有这么做。
其次，我们必须通知和准备每一个个人和广大公众。我们需要媒体技能和数字素养培训课程，涵盖人工智能虚假信息，并随着技术的变化不断更新。
然后，第三个问题是政治家应该做什么，以及多少监管是有用和有效的。这是一个棘手的话题，因为这些措施可能会与言论自由发生冲突。人工智能目前是欧洲议会的首要议程，我相信我们可以相对迅速地在监管框架方面设计出良好的解决方案。
不，我们还没有准备好。我们正在处理一项新技术，我们需要更好地理解它，这需要更多的基础研究。幸运的是，在这个领域有很多研究正在进行，尤其是在LMU。语言学家、社会学家、政治学家和许多其他学科的研究人员都在探索这个复杂的问题。行为科学家们正致力于了解人们对这种人为产生的信息的反应。
法律学者正在研究法律障碍，并寻求在言论自由这一宝贵商品与以解决方案为导向的、可实施的方法之间取得平衡。同时，IT的任务是找出技术上可行的方法。我们在LMU有一个跨学科的环境，许多不同的研究领域正在共同制定一个研究议程。
更多信息:Stefan Feuerriegel等人，研究可以帮助解决人工智能产生的虚假信息，自然人类行为(2023)。DOI: 10.1038/s41562-023-01726-2期刊信息:Nature Human Behaviour
由慕尼黑路德维希马克西米利安大学提供
引用:问答:人工智能-遏制虚假事实的浪潮(2023,11月21日)2023年11月23日检索自https://techxplore.com/news/2023-11-qa-artificial-intelligencestemming-tide-fake.html本文档
作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司
内容仅供参考之用。
