在活动家和家长的监督下，OpenAI 组建了一个新团队，研究如何防止其人工智能工具被儿童误用或滥用。OpenAI 在其职业页面上发布了一条新的招聘信息，披露了一个儿童安全团队的存在，该团队与 OpenAI 内部的平台政策、法律和调查小组以及外部合作伙伴合作，管理与未成年用户相关的"流程、事件和审查"。

该团队目前正在招聘一名儿童安全执行专家，负责在人工智能生成的内容中应用 OpenAI 的政策，并制定与"敏感"（可能与儿童有关）内容相关的审查流程。

具有一定规模的科技厂商都会投入相当多的资源来遵守《美国儿童在线隐私保护规则》（Children's Online Privacy Protection Rule）等法律，这些法律规定了儿童可以访问和不可以访问的网络内容，以及公司可以收集他们的哪些数据。因此，OpenAI 聘请儿童安全专家并不令人完全意外，尤其是如果该公司预计有一天会有大量未成年用户的话。(OpenAI目前的使用条款规定，13至18岁的儿童必须征得父母同意，禁止13岁以下儿童使用）。

不过，在 OpenAI宣布与常识媒体（Common Sense Media）合作制定儿童友好型人工智能指南并获得首个教育客户数周后，新团队的成立也表明 OpenAI 对触犯未成年人使用人工智能相关政策和负面新闻抱有戒心。

越来越多的儿童和青少年不仅在课业上，还在个人问题上向 GenAI 工具寻求帮助。根据美国民主与技术中心（Center for Democracy and Technology）的一项民意调查，29% 的孩子表示曾使用 ChatGPT 解决焦虑或心理健康问题，22% 的孩子使用 ChatGPT 解决与朋友的问题，16% 的孩子使用 ChatGPT 解决家庭矛盾。

一些人认为这种风险越来越大。

去年夏天，由于担心剽窃和错误信息，有学校和学院急忙禁止 ChatGPT。此后，一些学校和学院撤销了禁令。但并非所有人都相信GenAI的潜在好处，英国安全互联网中心（U.K. Safer Internet Centre）等机构的调查发现，超过一半的孩子（53%）表示曾见过同龄人以负面的方式使用GenAI--例如制造可信的虚假信息或图片来扰乱他人。

今年 9 月，OpenAI 发布了课堂 ChatGPT 文档，其中包含提示和常见问题解答，为教育工作者将 GenAI 用作教学工具提供指导。在其中一篇支持文章中，OpenAI 承认其工具，尤其是 ChatGPT，"可能会产生不适合所有受众或所有年龄段的输出"，并建议"谨慎"接触儿童--即使是那些符合年龄要求的儿童。

要求为儿童使用 GenAI 制定指导方针的呼声日益高涨。

联合国教育、科学及文化组织（UNESCO）去年年底推动各国政府规范 GenAI 在教育领域的使用，包括对用户实施年龄限制，并在数据保护和用户隐私方面设置防护栏。联合国教科文组织总干事奥黛丽-阿祖莱（Audrey Azoulay）在一份新闻稿中说："生成式人工智能可以成为人类发展的巨大机遇，但也可能造成伤害和偏见。如果没有公众的参与以及政府必要的保障和监管，它就无法融入教育。"