人工智能（AI）是当今社会的重要技术，它将对我们的生活和未来产生深远的影响。那么，儿童对AI的角色和作用有什么看法呢？他们希望AI如何符合人类的价值观和道德标准呢？一项对数百名荷兰儿童的调查揭示了他们的想法和建议。
儿童对AI的认知和态度
这项代表性的研究调查了374名年龄在4-16岁之间的儿童，其中最大的一组受访者年龄在6-13岁之间。研究发现，儿童对AI系统有着不同程度的了解和兴趣，他们分享了他们对AI系统目前在他们日常生活中意味着什么以及未来可能意味着什么的热情和担忧。
当让他们想象不同领域中的社会机器人扮演社会角色时，超过一半（55.3%）的儿童可以想象并希望在商店里有一个机器人售货员，而41%的儿童不喜欢这个想法。大多数儿童认为机器人可以胜过人类作为一个售货员。
喜欢机器人售货员的儿童认为他们很酷，而且可以在任务上超越人类。而那些不太倾向于选择机器人售货员的儿童，大多数表示他们会想念人类的特征。
“不，因为几乎每个售货员都会失去工作，而且你不能和机器人聊得很愉快，真正的人更好。”——女孩，7岁
当被问及一个警察是否可以是一个机器人时，54.8%的儿童反对，41.5%赞成。反对这个想法的群体认为机器人执法可能会威胁到他们的安全。大多数儿童认为一个机器人医生是一个坏主意：61.3%，相比之下，只有35.3%的儿童愿意与之互动。
“不，那样一切都会出错，他们跑不快。假设有人被枪击了，机器人说：‘我能帮你做些什么’和‘请保持冷静’。”——女孩，12岁
“一个机器人医生在碰到我时可能会传输电流，而一个人类医生不会这样做。”——男孩，8岁
儿童对AI的期待和建议
当被问及一个机器人是否可以成为朋友时，他们表示他们会想念人类在互动中所具有的特征、技能和价值观。这些在AI系统的发展中不能丢失。AI必须服务于人类，由人类控制，并且重要的是要与AI区分开来。
儿童将AI视为解决社会相关问题的解决方案。例如，一个帮助患有阅读障碍的儿童的机器人，或者一个从海洋中捞出塑料的机器人。但是没有一个机器人可以承担超越上下文的朋友的角色。友谊显然超出了任何“功能性”的关系，主要是由于缺乏人类的特征、技能、价值观和其他人际接触的关系方面。
“如果一个机器人是为了成为我的朋友而制造的，它只会从我身上学习。那我怎么能知道如何让别人快乐或者什么是悲伤呢？如果我只从一个机器人朋友身上学习我自己的行为，我怎么能学习和适应呢？”——女孩，8岁
“如果机器人能够理解幽默和人类的感情，那么这可能是可能的。”——男孩，12岁
儿童的观点揭示了道德和社会价值观
调查的结果可以归纳为八个关键标准，这些标准是儿童对AI提出的要求，以及他们对未来以人为本的AI和社会的希望：
- 人文素养——“机器人缺乏人类品质”
- 情商——“机器人没有情感”
- 爱与善良——“机器人不给予爱”
- 真实性——“机器人没有自己的意见”
- 人类关怀与保护——“机器人不能提供安慰和抚慰”
- 自主性——“机器人不应该接管世界”
- AI服务——“机器人必须协助我”
- 活力——“机器人应该能够和我一起玩”
将儿童的观点纳入AI框架
研究表明，在一个技术发展呈现出不可或缺的特征的世界里，广泛而跨代的对话是必不可少的。像AI、物联网等技术发展需要让我们思考什么是以人为本的AI，以及什么是以人为本的社会。
儿童可以贡献一些成年人往往不考虑的道德和社会标准。KidsRights报告最后提出了一些建议，说明儿童的标准对于以人为本的AI和社会是不可或缺的资源。他们可以为一些与AI相关的规范性框架提供参考，例如欧盟高级专家组制定的可信赖AI评估清单、联合国儿童基金会关于AI和儿童的政策指导、联合国教科文组织关于AI伦理原则的建议、荷兰儿童权利法典或世界经济论坛关于儿童用AI工具包。
AI对世界及其居民的影响尚不清楚。通过让儿童参与到对话中，并倾听他们的观点，我们可以确保在下一次伟大的技术转变加速时，不会丢失对人类至关重要的特征，如同理心、爱和玩乐。
评论留言