基于1331起儿童AI事故的研究：基准安全不等于实践安全

研究团队构建儿童中心伤害分类法，对1331起公开报告的儿童相关AI事故进行编码分析。研究发现伤害主要集中在表征、尊严和心理类别，且最常与部署环境、治理及滥用失败相关，而非模型缺陷。个体儿童伤害常与群体层面伤害相关联，波及未与系统交互的儿童。研究建议除内容过滤外，需实施年龄验证、肖像同意验证、安全设计UX约束及针对发展风险的审计机制。