Meta AI 推出青少年安全新规：涉及自残自杀对话将通知家长

文章目录

Meta 日前宣布推出针对青少年用户的全新 AI 安全保护措施，加强对潜在自残及自杀风险对话的监测与干预。

根据 Meta 公布的信息，未来当青少年用户在使用 Meta AI 聊天时，系统若检测到涉及自残、自杀等高风险内容，将启动安全处理流程，并可能向绑定的家长或监护人发送通知。

AI 检测后将由人工审核

为了降低误判情况，Meta 表示，所有被系统标记的高风险对话，在触发家长通知前，将先经过人工审核，以确认对话是否确实存在安全风险。

此外，Meta 也将进一步扩大 AI 聊天限制范围，减少模型回应涉及敏感主题的情况。目前 Meta AI 已限制部分有关性内容、恋爱关系以及饮酒等话题，未来还会加入更多安全限制。

除了家长通知机制外，Meta 也表示，如果 AI 判断用户存在即时自杀风险，无论用户年龄大小，公司都可能采取进一步行动，包括联系当地紧急服务机构，例如报警部门或医疗救援单位。

该项青少年 AI 安全功能目前已率先在美国、英国、澳大利亚及加拿大推出，并与 Instagram 家长监督功能进行整合。Meta 计划在今年年底前逐步扩大至更多地区。

随着 AI 聊天工具在年轻用户群体中的普及，如何在提供帮助与保护用户隐私之间取得平衡，也成为科技公司持续面对的重要议题。对于 Meta 此次推出的新措施，外界也关注其安全效果以及对青少年隐私的影响。