×
支持199IT发展可加入知识交流群(4000+用户),最有价值数据分享和讨论!
点击即可加入!
关闭

普林斯顿大学:研究发现人工智能系统存在种族歧视倾向

据俄罗斯“卫星新闻网”报道,美国普林斯顿大学的研究者发现,人工智能系统可能会有种族歧视的迹象。该项研究表明,机器人对于白人名字感觉“喜悦”,而对于黑人名字却表示出“不悦”。这项研究涉及一项具有自学能力的人工智能系统–GloVe。该系统能够识别并且理解在线文段。

1472920461-7396-product

“我们试验这些被广泛使用的、纯粹数据化的机器学习模型,并且利用网络上的语料库对其进行训练。”研究报告说。在相关的任务中,这一系统要将诸如“花朵”和“昆虫”之类的词与另外一些被科学家定义为“令人喜悦的”或“令人不悦的”词进行配对。

不过,当研究人员将一串听起来像黑人的白人名字输入到GloVe系统时,这个机器人却显示出严重的种族主义。这一智能系统将普遍使用的白人名字识别为“令人喜悦”的词,而非裔美国人的名字却被划为“令人不悦”的词。

研究人员认为,这是人们隐藏在互联网数据中的偏见,然后被机器人学习。“我们的研究结果表明,语言本身也包含了历史性歧视的精确印记。”研究人员说。

自 环球科技

感谢支持199IT
我们致力为中国互联网研究和咨询及IT行业数据专业人员和决策者提供一个数据共享平台。

要继续访问我们的网站,只需关闭您的广告拦截器并刷新页面。
滚动到顶部