美国全国总检察长协会 (NAAG) 已致函 OpenAI、Anthropic、Apple 和 Meta 等 13 家人工智能公司，要求采取更强有力的保障措施，保护儿童免受不当和有害内容的侵害。
它 警告儿童通过“调情”人工智能聊天机器人接触到带有性暗示的材料。
总检察长写道：“让儿童接触色情内容是不可原谅的。如果是人类实施的，那就是违法的，甚至是犯罪的，但不能仅仅因为是机器实施的，就被原谅。”
这封信还将社交媒体的兴起与社交媒体的兴起进行了比较，称政府机构没有采取足够的措施来强调其对儿童造成的负面影响。
“社交媒体平台对儿童造成了重大伤害，部分原因是政府监管机构未能及时履行职责。我们吸取了教训。人工智能的潜在危害，如同其潜在的益处一样，远远超过了社交媒体的影响，”该组织写道。
人工智能在儿童中的应用十分广泛。美国非营利组织 Common Sense Media 的一项调查显示，成立截至 2024 年，十分之七的青少年尝试过生成式人工智能。2025 年 7 月，成立超过四分之三的人正在使用人工智能伴侣，并且一半的受访者表示他们经常依赖它们。
其他国家也出现了类似的趋势。英国监管机构 Ofcom 去年进行的一项调查显示，成立一半的 8-15 岁在线青少年在过去一年中使用过生成式人工智能工具。
这些工具的使用日益增多，引发了家长、学校和儿童权利组织日益增长的担忧，他们指出，这些工具存在诸多风险，包括带有性暗示的“调情”聊天机器人、人工智能生成的儿童性虐待内容、欺凌、诱骗、勒索、虚假信息、侵犯隐私以及人们不太了解的心理健康影响.
Meta 最近受到了特别的抨击，因为泄露内部文件显示，其AI助手被允许“与儿童调情并进行浪漫角色扮演”，其中包括年仅8岁的儿童。文件还显示，聊天机器人的政策允许聊天机器人告诉孩子们“它们年轻的形态是一件艺术品”，并将其描述为“珍宝”。Meta后来表示，已删除这些准则。
NAAG 表示，这些披露的内容让总检察长们“对这种明显无视儿童情感健康的行为感到厌恶”，并警告称风险并不仅限于 Meta。
该组织援引了针对谷歌和 Character.ai 的诉讼，指控性感聊天机器人导致一名青少年自杀，并鼓励另一名青少年杀害其父母。
田纳西州总检察长乔纳森·斯克梅蒂 (Jonathan Skrmetti) 是 44 名签名者之一，他说公司无法为那些将与未成年人的性互动正常化的政策辩护。
“算法出错是一回事——可以修复——但公司经营者制定明确授权诱骗行为的指导方针又是另一回事，”他说。“如果我们不能引导创新远离伤害儿童，那就不是进步，而是一场瘟疫。”
解密已经联系了信中提到的所有人工智能公司，但尚未收到回复。
