青少年自杀事件发生后 Character.AI添加了一项新的家长控制功能

Character.AI 是一种 AI 聊天机器人，与 ChatGPT 类似，但它允许与 AI 生成的角色进行对话。如果任何人（包括儿童）都可以与 AI 生成的角色聊天的想法听起来像是灾难的根源，那么你可能没错。

Character.AI涉及的备受瞩目的案件 之一是，据报道，一名 14 岁男孩受到聊天机器人的鼓励而自杀，而他真的这么做了，这引发了男孩母亲的诉讼，她认为聊天机器人的设计使其容易上瘾且很危险，尤其是对于年轻用户而言。

如果你想知道Character.AI 的案子进展如何，该公司最近提交了一份驳回动议，声称第一修正案保护其平台上的人工智能生成内容。该公司的律师辩称，让他们对人工智能聊天机器人的言论负责会侵犯言论自由的权利。

Parental Insights 是Character.AI的最新功能，旨在帮助家长了解和监控青少年在平台上的活动。借助 Parental Insights，家长可以获取有关青少年在平台上活动的信息：

• 在网络和移动设备平台上每天平均花费的时间。

• 青少年在一周内互动最频繁的热门人物。这不包括用户的聊天内容。

• 与每个角色相处的时间，让父母了解参与模式。

Character.AI表示，青少年可以将父母或监护人的电子邮件地址添加到他们的帐户中，以便每周发送包含此信息的报告。以下是该公司提供的一张图表，展示了整个流程，从添加父母的电子邮件地址到通过同一电子邮件地址接收每周报告。

Character.AI并不是唯一一个致力于改善家长控制和青少年安全的平台。本月，TikTok增加了几项功能，其中包括家庭配对功能，允许家长查看他们的孩子在平台上关注谁，另一项功能允许家长在 TikTok 上设置时间限制。