一段据称是一名男子斩首父亲的14分钟视频被上传到YouTube上,并在那里停留了几个小时,这让人们对这家社交媒体巨头的内容监控能力产生了质疑。这起事件发生在宾夕法尼亚州,一名32岁的男子贾斯汀·莫恩(Justin Mohn)在斩首父亲迈克尔(Michael)后面临一级谋杀和虐待尸体的指控。
这段视频让人想起近十年前伊斯兰国恐怖分子发布的可怕的斩首视频,在网上停留了大约五个小时。批评人士现在对YouTube等受欢迎平台上的审核措施的有效性提出了质疑。YouTube隶属于科技巨头Alphabet Inc.。
值得注意的是,这一事件发生时,meta、TikTok和其他社交媒体巨头的首席执行官正在联邦立法者面前作证,解决对在线儿童安全的担忧。
YouTube没有参加那次听证会。
在宾夕法尼亚州的这段视频之前,近年来社交媒体上出现了一系列类似的令人痛心的视频,包括直播国内大规模枪击事件和世界各地的暴力事件。
作为对该事件的回应,YouTube表示该视频已被删除,莫恩的频道已被删除,并正在努力追踪和删除任何重新上传的视频。
也看|我facebook、Instagram、TikTok的首席执行官们面临着关于儿童在线安全的棘手问题
该平台将人工智能和人工版主结合起来进行内容监控,但这些措施在处理新的或不寻常形式的图形内容方面的有效性仍然存在问题。
专家表示,虽然人工智能发挥着至关重要的作用,但人类审核员也是必不可少的,特别是在处理可能带来前所未有挑战的暴力和图像视频时。
据美联社报道,全球互联网反恐论坛(Global Internet Forum to Counter Terrorism)于1月31日午夜过后约40分钟向其成员发出了有关这段视频的警告。该论坛由科技公司组成,致力于防止此类内容的传播。
在YouTube之后,斩首视频仍留在X上
但这段视频已经在另一个社交媒体平台X上传播,在那里停留了至少7个小时,累积了2万次观看。
这是什么意思?
整个争吵突显出社交媒体公司之间需要加强协调,以及它们限制暴力内容传播的努力。
(各机构提供资料)