白节门户网站 > 科技 > 为了防止用户自杀,Facebook 想了 3 个办法

栏目热门

整站热门

为了防止用户自杀,Facebook 想了 3 个办法

发布于: 2019-11-08 21:43:18

根据世界卫生组织的一份报告,每年约有800万人死于自杀,每40秒就有一人死亡。社交媒体上潜在的暴力和自杀、自残等危险内容正在加剧这一局面。

因此,在昨天的世界自杀预防日,脸书宣布了一系列措施来帮助那些容易自杀或自残的人,并尽量减少对他人的影响。

这是脸书与来自美国、英国、加拿大、墨西哥、菲律宾、印度、泰国等国的相关专家进行讨论后达成的计划。facebook还聘请了一名健康专家加入安全政策团队,专门分析facebook政策和应用对人们心理健康的影响。

▲华盛顿检查人员的照片

首先,facebook和instagram上的人将不再能够分享和传播自残的图片,相关内容将难以在instagram上搜索,facebook不会让此类内容出现在推荐中。

此外,与饮食失调相关的内容也将被禁止,包括与不健康减肥相关的术语,侧重于描述肋骨、颈部骨骼、肩胛骨、凹陷的胃、突出的脊柱等的信息。

平台上还会出现一个“敏感屏幕”,即当潜在危险的图片出现时,用户可以选择观看或不观看,以防止人们无意中看到令人不安的图片并造成心理伤害。

此外,facebook也首次尝试在平台上分享“人们如何谈论自杀”的公共数据。这是通过社交媒体监控工具crowdtangle实现的,该工具通常提供给学术研究人员。现在,专家和学术研究机构可以在facebook和instagram上发现不良信息,然后对这些信息进行研究,以监督和干预用户。

▲来自wraltechwire的图片

然而,另一方面,人们在社交媒体上公开讨论自己的情况,引起网民、家人和朋友的注意,这也有助于引导他们的自杀心理。

然而,在网上说话不同于记日记。一段影响很大的文字或图片可能会造成大规模的群体效应。科学研究也证明,自杀可能会传染,而群体自杀的爆发是真实的情况。

▲图片来源:盖蒂图片

因此,从2019年4月到6月,脸书工作人员通过机器学习系统和人工审查移除或混淆了150多万起自杀和自残事件,并在用户报告之前发现了95%以上的自杀和自残事件。

在同一时期,他们还在instagram上干预了800,000多篇此类内容的文章,有时向创建自杀内容的个人分发心理健康内容,或在紧急情况下向用户所在的地方当局发出警报。

但是为了给有自杀倾向和自毁倾向的人一个表达和交流的渠道,并听取朋友和家人的意见,脸书最终将在安全中心和instagram上增加一个名为#chatsafe的在线交流指南平台。

这个指南平台是由年轻人开发的,他们对这些敏感话题有着更深入的了解。当人们搜索自杀和自残等内容时,他们可以看到里面的内容资源并得到帮助,这也将为那些有自杀想法、行为或相同感受的人建立更多的心理支持,并可以在网上交流和启发。

事实上,不仅仅是facebook,youtube和twitter等其他大公司也面临立法者和用户的压力,要求他们打击平台上的有毒内容。

因此,本月,youtube称已禁止17,000多个账户发布“仇恨内容”;另一方面,Twitter对其认为违反用户协议的内容引入了一系列新的政策变化。除了昨天的新趋势,脸书早在2017年11月就开始在世界各地推出人工智能自杀预防工具,以确保对发布自杀帖子的用户的第一反应。

▲图片来源:derzsi elekes和或

在谷歌、脸书、推特和百度的平台上,也设立了求助热线号码。当人们搜索“自杀”这个词时,数字会很快出现在页面的第一列。

无论是为了使互联网环境更加健康,还是为了维持其自身平台的长期发展,对于这些大型技术公司来说,保护用户的安全都是太过分了。

来自techworm

pk10开奖 pk10开奖 湖南快乐十分 山西十一选五投注 安徽十一选五开奖结果