人工智能的阴暗面：我们的潜意识如何处于危险之中

新的研究考察了人工智能在访问我们的潜意识方面的潜在滥用，正如剑桥分析丑闻所揭示的那样。 它批评了欧盟拟议的人工智能法规在防止潜意识操纵方面的不足，强调了在我们日益数据驱动的世界中需要加强隐私保护。

欧盟关于人工智能的新法律可能允许人工智能进入我们的潜意识。

由神经权利基金会（Neurorights Foundation）领导的神经权利倡议倡导承认一套新的保护措施，以应对这些技术进步的挑战。 其中一些正在与欧盟理事机构目前正在谈判的《人工智能法案》有关。 除其他事项外，该法律必须规范人工智能影响我们潜意识的能力（类似于剑桥分析公司的案例，但在更深层次上）。

加泰罗尼亚大学（UOC）法律和政治科学学院院长、《Inteligencia artificial y neuroderechos》（Aranzadi，2023）一书的作者伊格纳西·贝尔特兰·德·埃雷迪亚（Ignasi Beltran de Heredia）刚刚发表了一篇开放获取的文章，研究了人工智能的进步所面临的挑战，并从神经科学的角度质疑了欧盟的最新法案。

让人工智能进入我们潜意识的风险

据估计，只有5%的人脑活动是有意识的。剩下的95%是潜意识发生的，我们不仅无法真正控制它，而且我们甚至没有意识到它正在发生。正如贝尔特兰·德·埃雷迪亚（Beltran de Heredia）在他的文章中指出的那样，由于我们的意识和潜意识行为之间的相互作用高度复杂，以及我们完全无法控制指导我们生活的力量，我们没有意识到这种非凡的神经活动洪流。

然而，这并不意味着人们不能在潜意识中受到影响。“人工智能有两种方法可以做到这一点，”他解释说。“第一个是收集有关人们生活的数据，并创建一个决策架构，引导你做出特定的决定。另一种是目前不太发达，涉及使用应用程序或设备直接产生我们的潜意识无法抗拒的冲动，以便在潜意识层面上产生冲动反应，即创造冲动。

“随着我们逐渐开发出更好、更强大的机器，并与它们建立更紧密的联系，这两种选择将变得越来越普遍。算法将拥有更多关于我们生活的信息，并且创建工具来生成这些冲动反应将更容易 […]这些技术的风险在于，就像哈梅林的吹笛者一样，它们会让我们在不知道为什么的情况下跳舞。

在贝尔特兰·德·埃雷迪亚（Beltran de Heredia）看来，我们最有可能看到通过人工智能影响人类行为的首次尝试的领域是工作领域，更具体地说是职业健康。他认为，目前正在使用许多侵入性技术。这些设备包括监控公交车司机以检测微睡眠的设备，或雇主用来监控员工在工作时的脑电波压力和注意力水平的脑电图 （EEG） 传感器。“很难预测未来，但是，如果我们不限制这些侵入性技术，而它们仍处于开发的早期阶段，最有可能的情况是它们会以生产力的名义不断改进和传播它们的卷须。

欧盟提出的（模糊）限制

欧盟目前正在讨论的新人工智能法规旨在预测人工智能的这种用途和其他用途未来可能带来的风险。原法案第5.1条明确禁止投放市场、投入使用或使用能够影响他人的人工智能，以扭曲该人的行为。然而，此后逐渐引入的修正和修改慢慢淡化了禁令的绝对性质。

目前的法案将用作法律最终措辞的参考，只有在此类技术旨在操纵或欺骗的情况下才禁止此类技术，它们会显着影响一个人做出明智决定的能力，从而做出他们不会做出的决定，并且它们以某种方式对某人造成重大伤害。此外，该禁令不适用于用于批准治疗目的的人工智能系统。

“根据该提案，当发生严重伤害并且该人最终做了他们本来不会做的事情时，人工智能禁令将适用。但这是一个不切实际的标准。如果我不能进入我的潜意识，我就不可能证明如果没有刺激我会做什么，我也无法证明伤害 […]如果潜意识广告现在被无条件地完全禁止，为什么我们还要为人工智能的潜意识条件反射留出空间呢？

根据贝尔特兰·德·埃雷迪亚（Beltran de Heredia）的说法，如果我们向潜意识敞开大门，即使有充分的理由，我们也将无法控制谁可以访问它，如何访问它或访问的目的。“有些人可能认为这些担忧属于一个不太可能的反乌托邦未来。然而，毫无疑问，我们已经被入侵到几年前无法想象的深度，公众应该得到尽可能充分的保护。我们的潜意识代表了我们最私密的自我，应该完全封闭，不被外界访问。事实上，我们甚至不应该讨论它。

关于我们的大脑是如何工作的，以及我们大脑的意识和潜意识部分如何相互作用，我们还有很多不了解的地方。大脑仍然是一个非常难以捉摸的器官，尽管科学在这一领域取得了长足的进步，但我们不知道其功能可能受到某些刺激的许多方式的影响。“我们需要意识到让其他人和公司在如此深层次上接触我们的内在自我的风险。在数据经济的背景下，许多公共和私人机构都在争夺我们的信息，但矛盾的是，一次又一次地表明，个人对他们的隐私并不重视，“他总结道。