(资料图片)
什么是人工智能,为什么会有危险?
由于学习算法能够以超出人类能力的精度和速度处理数据集,人工智能(AI)在金融、医疗、教育、法律系统等领域越来越受欢迎。然而,依赖AI也带来了风险,尤其是在没有人工监督的情况下进行决策时。机器学习依赖于数据集中的模式识别。当现有数据反映社会偏见时,问题就会出现。
决策过程中的人工智能
人工智能越来越多地参与到算法决策系统中。在许多情况下,该决定可能会对人们产生巨大影响,例如获得信贷、就业、医疗保健或司法决定。因此,自动决策可以使社会差距永久化。例如,一些招聘算法被发现对女性有偏见。
AI时代如何保护消费者AI
开发和自动决策过程也对消费者的信任和福利提出了挑战。当消费者与这样的系统交互时,他们应该被适当地告知他们的功能
在2月12日通过的决议中,欧洲议会敦促欧洲委员会研究,在人工智能和自动决策的背景下,是否有必要采取其他措施来确保保护消费者的强大权利。