西北大学:研究认为要解决社会偏见就必须关注语言的文化传播

近日,发表在《社会心理学与人格科学》(Social Psychological and Personality Science)杂志上的一项新研究中,研究人员分享了人们的态度与语言和文化深深交织在一起的证据。

研究人员发现,全球民众的态度与语言相关,揭示了隐性偏见往往反映在 ChatGPT 等人工智能模型中。研究表明,要解决这些偏见,就必须关注语言的文化传播。

研究人员从富人与穷人、狗与猫、爱情与金钱等 55 个不同的话题中,研究了人们的态度与语言之间的联系。他们使用了四种文本来源:当前的英语写作和文本、200 年前的英语书籍以及 53 种英语以外语言的文本。作为对人们态度的测量,他们使用了 10 万多名美国人的数据;第一种是直接的自我报告,第二种是基于人们反应时间的间接测量,通常被称为内隐测量态度。

他们发现,像 ChatGPT 这样的大型人工智能语言模型所捕捉到的关联与第二种间接测量方法的匹配度更高,而不是他们明确表达的态度。

“随着人工智能和大型语言模型应用的兴起,作为消费者、领导者、研究人员或政策制定者,我们需要了解这些模型所代表的社会世界,”领衔作者、西北大学凯洛格管理学院的泰莎-查尔斯沃斯博士说。”他们有明显、明确的偏好吗?还是他们有更隐蔽的关联模式,更类似于隐性测量的态度?”

减轻人工智能中的这些微妙偏差需要采用与寻找显性偏差不同的方法。查尔斯沃斯博士说:”我们可能需要深入挖掘训练数据本身的模式,并提供关联的替代示例,而不是在最后审核模型是否表现出明显、明确的偏差。”

查尔斯沃思博士指出:”从更广泛的意义上讲,这些数据表明,隐性测量的态度会在语言中显露出来,也许会被语言所强化,而语言是传播文化的一个关键载体。因此,”如果我们想持久地解决和减少社会中的隐性偏见,我们可能需要采取更加注重文化(或宏观层面)的干预措施”。

在强调相关性的同时,研究人员希望继续探索社会文化的影响因素。查尔斯沃思博士说:”鉴于我们发现哪些非英语语言显示出了相关性,了解哪些社会和文化因素有助于解释偏见和语言之间的更大传播是非常重要的。”

这项研究为我们更好地理解态度与语言和交流系统之间的微妙关系奠定了基础。

参考资料:《文化的回声:隐性和显性态度与当代英语、历史英语和 53 种非英语语言的关系》,2024年6月14日 《社会心理学与人格科学》

自 中文业界资讯站

感谢支持199IT
我们致力为中国互联网研究和咨询及IT行业数据专业人员和决策者提供一个数据共享平台。

要继续访问我们的网站,只需关闭您的广告拦截器并刷新页面。
滚动到顶部