AnonymousInstagram即将推出新功能：如果青少年在短时间内反复搜索与自杀或自残相关的关键词，系统将自动向家长发出警报。Meta表示，该功能将在未来几周内面向已启用Instagram家长监督工具的家庭逐步上线。只要搜索行为达到设定的阈值，家长就会收到通知。
Meta强调，平台目前已禁止直接搜索自杀及自残内容，并会将用户引导至专业求助资源。而这项新警报机制的目的是，当青少年持续尝试搜索有害关键词时，能够及时通知家长，让他们在情况恶化前介入并提供支持。
Instagram在一篇博客文章中详细说明了警报触发的判定标准。
“为了在保护隐私与确保安全之间取得重要平衡，我们深入分析了Instagram的搜索行为数据，并咨询了自杀与自残顾问小组的专家意见。我们最终确定了一个相对谨慎的阈值：需要在短时间内进行多次相关搜索才会触发警报。”
公司同时表示，他们希望避免过度发送通知，因为过于频繁的提醒反而会降低警报的有效性。
警报具体如何运作
Instagram将根据家长预留的联系方式，通过电子邮件、短信或WhatsApp发送警报。同时，家长还会在应用内收到通知，通知中包含如何与青少年展开对话的指导建议，以及相关心理支持资源的链接。会触发警报的搜索内容包括：鼓励自杀的表述、建议自残的语句，或明显表达情绪危机的关键词。
该功能将首先在美国、英国、澳大利亚和加拿大上线，Instagram计划在今年晚些时候将其推广至更多国家和地区。公司还表示，未来如果青少年尝试通过Instagram的AI工具讨论自杀或自残相关话题，也将推出类似的家长警报机制。
此次更新正值Meta因平台涉嫌损害青少年心理健康、防护措施不足而面临多起诉讼的关键时期。
全部评论0