人工智能驱动的不良行为者：2024 年及以后迫在眉睫的威胁

一项研究预测，到 2024 年年中，预计不良行为者将越来越多地在日常活动中利用人工智能。这项研究由尼尔·约翰逊（Neil F. Johnson）和他的团队进行，涉及对与仇恨相关的在线社区的探索。他们的方法包括搜索反诽谤联盟仇恨符号数据库中列出的术语，以及识别南方贫困法律中心标记的群体。

从使用这些术语发现的“坏行为者”社区的初始列表中，作者评估了与坏行为者社区相关的社区。作者重复了这一过程，以生成不良行为者社区的网络图，以及他们链接到的更主流的在线群体。

被归类为“不信任子集”的主流社区

如果一些主流社区对 COVID-19、MPX、堕胎、选举或气候变化进行重要讨论，则被归类为属于“不信任子集”。作者使用当前在线不良行为者“战场”（包括超过10亿人）的地图，预测了这些不良行为者如何使用人工智能。

不良行为者-脆弱-主流生态系统（左图）。它包括相互关联的不良行为者社区（彩色节点）和脆弱的主流社区（白色节点，即不良行为者社区形成直接联系的社区）。这个经验网络是使用 ForceAtlas2 布局算法显示的，该算法是自发的，因此当社区（节点）集共享更多链接时，它们看起来更紧密。不同的颜色对应不同的平台。小红环显示了 2023 年德克萨斯州射手的 YouTube 社区作为插图。右面板显示了不信任子集中讨论的主题的维恩图。每个圆圈表示一类社区，这些社区讨论一组特定主题，列在底部。中等规模的数字是讨论该特定主题集的社区数量，最大的数字是相应的个人数量，例如灰色圆圈表示 19.9M 个人（73 个社区）讨论所有 5 个主题。如果大多数人反对接种疫苗，则数字为红色;如果多数人对疫苗持中立态度，则为绿色。只有>占社区总数 3% 的区域才会被标记。反疫苗接种占主导地位。总体而言，这个数字显示了不良行为者人工智能如何迅速实现全球影响力，并且还可以通过吸引现有不信任的社区来迅速增长。图片来源：Johnson et al.

作者预测，不良行为者将越来越多地使用人工智能，使用人工智能工具的早期迭代不断将有毒内容推送到主流社区，因为这些程序具有较少的过滤器，旨在防止不良行为者使用它们，并且是免费提供的程序，小到足以安装在笔记本电脑上。

到 2024 年年中，几乎每天都有 AI 驱动的攻击

作者预测，到 2024 年年中，这种恶意行为者 AI 攻击几乎每天都会发生，届时将影响美国和其他全球选举。作者强调，由于人工智能仍然是新的，他们的预测必然是推测性的，但希望他们的工作能够成为管理不良行为者人工智能威胁的政策讨论的起点。