1331起儿童AI事故研究：部署与治理是主要风险源

Junfeng Jiao 等人在 arXiv 发布论文，基于 1331 起公开报告的儿童相关 AI 事故，提出“基准安全不等于实践安全”的结论。研究构建儿童中心伤害分类法，发现伤害主要集中在表征、尊严和心理类别，且最常与部署环境、治理及滥用失败相关，而非模型缺陷。个体儿童伤害常与群体层面伤害关联，波及未与系统交互的儿童。研究建议除内容过滤外，需实施年龄验证、肖像同意验证、安全设计 UX 约束及针对发展风险的审计机制。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。