- 儿童也在使用生成式人工智能，但他们往往瞒着老师和家长；
- 生成式人工智能有很多好处，但对儿童来说也有很多未解之谜和风险；
- 随着人工智能的日益普及，各利益相关方必须采取行动，了解人工智能对儿童成长的潜在影响。
生成式人工智能，例如驱动ChatGPT的人工智能技术，已经将人工智能的算法和数据运算从幕后推向我们数字体验的前台和中心。如今的孩子们每天都在使用它，无论是辅助其完成家庭作业还是帮自己决定今天穿什么衣服。
人工智能的快速应用在社会上引发了关于其更广泛影响的讨论。生成式人工智能在带来好处的同时，也面临着人工智能技术的长期挑战，如算法偏差和算法黑箱等问题。它甚至可能放大不可预测的输出等问题，甚至带来新问题。
儿童和青少年是上网时间最长的人群。考虑到人工智能的发展和普及速度，了解人工智能对儿童的影响至关重要。
有多少儿童使用过生成式人工智能？
生成式人工智能是人工智能机器学习的一个子领域，它从海量数据中学习，发现特定模式并生成新的类似数据。它通常用于生成模仿人类创造的内容，无论是文本、图像还是计算机代码，但它也能完成复杂的规划性任务，例如为新药开发提供支撑，并以前所未有的方式提升机器人的性能。
我们不知道有多少儿童在使用生成式人工智能，但初步调查显示，其儿童用户比成年人还要多。美国的一项小型民意调查显示，虽然只有30%的家长用过ChatGPT，但他们12-18岁的孩子中有58%的人都用过ChatGPT，并且还瞒着家长和老师。在美国的另一项调查中，了解ChatGPT的年轻成年人称，他们使用ChatGPT的比例高于年长者。
人工智能已经作为推荐算法或自动决策系统，成为儿童生活的一部分，而业界对生成式人工智能的热度表明，它可能很快就会成为儿童面临的数字环境的一个要件。人工智能会以各种方式嵌入儿童的数字生活，例如作为数字和个人助理以及搜索引擎助手。
Snapchat等深受儿童喜爱的平台已经集成了人工智能聊天机器人。与此同时，Meta计划将人工智能助理添加到日活有30多亿人的产品系列中，包括Instagram和 WhatsApp。
生成式人工智能如何造福儿童
生成式人工智能带来了潜在的机遇，例如作业辅导、对困难概念的通俗易懂解释，以及能够适应儿童学习风格和速度的个性化学习体验。儿童可以利用人工智能创作艺术作品、谱写音乐、编写故事和软件（无需或只需较低的编码技能），从而培养儿童创造力。
残疾儿童还可以通过文本、语音或图像，以全新的方式与数字系统进行交互，实现共创。当儿童直接使用这些系统时，生成式人工智能可以帮助他们及早发现健康和发育问题。间接而言，生成式人工智能系统可以提供对医疗数据的洞察，以支撑医疗行业的进步。
更广泛地说，生成式人工智能的分析和生成能力可应用于各行各业，以提高效率，开发能对儿童产生积极影响的创新解决方案。
生成式人工智能对儿童的风险
但是，生成式人工智能也可能被有心之人利用，或在无意中造成伤害或全社会的混乱，其代价是儿童的发展前景和福祉。
事实证明，生成式人工智能可以即时创建基于文本的虚假信息。它们与人类生成的内容无法区分，甚至比人类生成的内容更具说服力。人工智能生成的图像无法与真实面孔区分开来，在某些情况下，还被认为比真实面孔更可信（见图1）。人工智能的这些能力可以帮助诈骗人士扩大其作案规模并降低成本。儿童的认知能力仍处于发育阶段，他们特别容易受到错误/虚假信息的影响。
图1：真实人脸与生成人脸的混合——人工智能合成的人脸与真实人脸无法区分。（左列为真实人脸，右列为合成人脸）
图片来源：Sophie J. Nightingale和Hany Farid，2021年
长期使用生成式人工智能会给儿童带来一些问题。例如，鉴于聊天机器人的语气与人类似，与人工智能系统互动会对儿童的发展产生什么影响？早期研究表明，儿童在智力、认知发展和社会行为方面的看法和特质可能会受到影响。
此外，许多人工智能系统具有固有偏见，这些偏见会如何影响儿童的世界观？专家发出警告，声称为保证聊天机器人对儿童而言的安全性，需要进行更严格的测试。那么，当儿童与生成式人工智能系统互动，并在对话和互动中分享其个人数据时，这对儿童的隐私和数据保护意味着什么？澳大利亚电子安全专员认为，在这种情况下，需要更多地考虑儿童数据的收集、使用和存储，尤其是商业目的下的这些行为。
长期影响
生成式人工智能可能产生的结果既是机遇也是风险。例如，我们还不确定生成式人工智能会如何扰乱儿童未来的工作生活。它可能会取代一些关键工作岗位，同时创造新工作岗位。我们在今天如何为儿童提供教育，以及提供什么样的教育，将与此息息相关。
虽然人工智能的机遇和风险远不止这些，但上述例子已经能够揭示其广泛影响。由于儿童将终生与人工智能系统打交道，在其成长时期与人工智能的互动可能会产生持久影响，这就要求政策制定者、监管机构、人工智能开发者和其他利益相关者更具前瞻性。
采取行动的必要性
作为起点，现有的人工智能资源为负责任的人工智能开发提供了很多方向。例如，联合国儿童基金会的《人工智能为儿童：政策指南》提出了在人工智能政策和实践中维护儿童权利的九项要求，而世界经济论坛的《人工智能为儿童》工具包则为科技公司和家长提供了建议。但是，生成式人工智能的发展日新月异，我们可能需要在新的技术背景下解释现有政策，并且可能需要制定新的指南和法规。
政策制定者、科技公司和其他致力于保护儿童和子孙后代的机构需要紧急行动起来。他们应支持对人工智能生成的影响进行研究，并（与儿童一起）参与预测工作，以更好地进行预期治理。此外，需要提高人工智能的透明度，让人工智能供应商进行负责任地技术开发，并倡导儿童权利。正如联合国秘书长安东尼奥·古特雷斯所呼吁的那样，全球监管人工智能需要各国政府的全力支持。
来自： 世界经济论坛
更多阅读：
