智信链:可信存证的技术领先者

首部反网暴司法文件落地!三问平台治理如何拉开与恶的距离?

原标题:首部反网暴司法文件落地!三问平台治理如何拉开与恶的距离?

遏制网暴,再出重拳。近日,两高一部发布首部治理网暴的指导意见,释放了“严惩网暴”的信号。《指导意见》全面聚焦网暴议题,切实矫正“法不责众”的错误倾向,从行为界定、社会危害、司法追责、法律救济、综合治理等多个维度,全方位筑起反网暴“防护网”。

当网络暴力泛滥导致社会中缺乏安全感和信任感时,互联网的信息将无法成为推动经济发展的根基,进而影响国家发展进程。在中国政法大学传播法研究中心副主任朱巍看来,“治理网暴,一个是信任,一个是安全,这两个是核心。反网暴看似是反对某些信息传播的违法行为,但实际上是保护所有网民的安全感和信任感。”

“如何将网暴止步于萌芽状态,建立起有效事前监管的‘第一道防护网’,并给重点群体提供事后追责维权机制和救助保护等等,是平台当前面临的挑战。”谈及最新出炉的指导意见中针对反网暴的平台治理相应条款,中国社会科学院大学互联网法治研究中心执行主任刘晓春冷静剖析。

重磅《指导意见》官宣,将对平台内部的“网暴”治理运营策略产生哪些影响?国内主要平台在反网暴方面做得如何,哪些短板还需补齐?在积极配合公权力执法管控过程中,平台如何更好平衡对用户的个人信息保护?新法治业态的加持下,平台能否更好地拉开我们与恶的距离?

带着这些问题,我们对话了上述专家,试图叩问网暴之恶,清源之法:

|吕虹

一问:反网暴加码,平台运营策略如何应变?

专家:建立相对透明的反网暴披露机制

南都:此次《指导意见》增加了网络服务提供者、互联网用户公众账号等推送、传播有关网络暴力违法犯罪的信息,明确可以根据行为程度是否构罪按刑事犯罪追究,包括非法利用信息网络罪、拒不履行信息网络安全管理义务罪等,对平台和网暴组织者产生很强的震慑。在您看来,新增的此类条款会对平台内部治理及运营策略产生哪些影响?

刘晓春:新规意义重大,明确了政府对网暴零容忍的态度和以法为器的决心。从平台来说,相关规定的落地,不仅仅是督促平台约束自身行为、避免涉刑罪责的问题,更是一种信号释放:需要平台建立及时响应机制,将外部政府主管机关可能的预警及时转化为内部治理措施。反网暴的体制机制建立过程将更鲜明地贯穿平台治理的始终,唯有将外部预警和内部治理相结合,方能实现更全面、有效的网暴防控。

但同时也不应该对平台要求太过,不能说没有防控住所有可能性的后果,平台就都必然要承担责任,而是更多地要看平台在事件过程中做了什么。

朱巍:这次司法解释出来之后,针对网络服务提供者(平台)不依法履行信息网络安全管理义务,适用的条款是刑法第二百八十六条之一规定的,以拒不履行信息网络安全管理义务罪定罪处罚。针对互联网用户公众账号、MCN传播矩阵等基于蹭炒热度、推广引流的动机恶意营销炒作行为,适用的则是刑法第二百八十七条之一的规定,定罪是非法利用信息网络罪。具体适用哪条规定,还要看相关违法网暴信息的组织和发布的主体到底是谁。

在此前我们业内理解也有可能会适用第二百八十七条之二的规定,即帮助信息网络犯罪活动罪(帮信罪)的范畴。适用“287之一”,相关部门想必是有一定的考量,即更多考量的是在严重刑事犯罪的过程中,平台应尽责任的刑法底线。但平台的具体的主体责任,无法也绝不应当从司法解释中抽象出来,新增的此类规定等于明白客观地告诉平台,你不能冷眼旁观。

南都:国内主要平台在反网暴方面做得如何?还普遍存在哪些问题?

朱巍:现在大平台对网暴治理都采取了更积极的主动作为,比如我实测调研过多个平台都有反网暴机制,用户在后台有投诉网暴的选项,平台响应都比较及时,涉及未成年人还有加急处理。

直播行业的话抖音平台的管理效果相对较好,但各平台治理尺度不一致。此外,网络平台的黑名单制度落实还不够彻底。对相关网络信息平台,如直播平台,推动分级分类规则,需要多家平台建立信息共享和治理机制,避免封禁账号换马甲、换平台复出等。

刘晓春:实际在全球范围内,中国平台的反网暴防护上已经算比较领先的,但可能在对用户的反网暴知悉权教育上还需强化。这里同样也涉及平台测评机制的时效性。

希望能够建立一个相对透明的反网暴披露机制,让监管部门和公众能够更好地了解平台的防护效果。我们社科院大学互联网法治研究中心,主导发布过一版对国内7家平台的反网暴测评报告,实操中发现当后台客服接到网暴投诉百余条左右时,其实系统已经拦截掉的网暴信息条数高达几十万条。

二问:反网暴加码,平台技术手段如何升级?

专家:重点治理算法推荐机制 力求更谨慎

南都:除了 “一键防护”、陌生人私信限制、人机耦合过滤机制等传统的事前风控手段外,在网暴发生过程中及事后,平台从技术和监管手段上还可如何提升治理能力?

刘晓春:首先,需要建立跨平台的机制和信息交换机制,以确保不同平台上的防护措施达到一致的标准。有的平台在事前防护上做得相对突出,但全社会反网暴的短板效应就在于,网暴信息会迅速流到那些防护不力的平台洼地上,尤其是在一些“内涵式”辱骂的过滤上。因此通过相关部门牵头去建立一个信息交换的跨平台机制,相当必要。

其次,除了对涉事用户的网暴风险预警等事前监控外;在网暴的事中和事后,还需要建立一个维权协助和追责机制,例如一键取证等。网络暴力所涉侮辱、诽谤行为往往针对素不相识的陌生人实施,受害人在确认侵害人、收集证据等方面存在现实困难,维权成本极高。要加强用户教育和维权协助,要让用户了解如何使用这些机制记录他人的网络言行并保存证据。

此外,对不同群体应建立相应防护倾斜权重。比如针对未成年人,B站就推出过专门的预防机制。对未成年up主有更严格的私信保护,对他们的稿件评论和弹幕的互动亦有管控和过滤,以降低未成年人受到言论伤害的风险。

对于账号的事后处罚,平台需要有一套明确合理的机制,根据账号的行为和影响程度进行分级处理。例如,对于轻微违规的账号,可以采取警告或限制功能等措施;对于严重违规的账号可封号。用户的反馈和参与也很重要,必须让用户了解和接受处罚的依据和原因,同时开发更多与用户互动的功能和工具,鼓励用户参与社区管理,共同维护良好的网络环境。

朱巍:对于平台来说,最大的挑战来自对算法推荐机制的集中治理。一些传播大V之所以能利用系统流量池大吃“人血馒头”,正是平台算法推荐给予了他们特殊推荐机制,能上平台热榜,裹挟放大片面的声量,这才是网络暴力真正的爆发点。

算法的机制谁说了算,平台说了算。这一点是应该重点治理的,平台在推荐算法中应该更加谨慎。尤其当话题涉及当事人的重大权益的,这个当事人既包括自然人,同样包括企业和法人组织等。

就比如单方面爆料涉他人的微信、QQ聊天记录截屏以引起关注和流量,其实偷拍、偷录和泄露他人隐私本身就是不可取,但有些平台为了流量往往忽视这类行为违法的本质,甚至特意在算法推荐机制送这类信息上热搜,令受害人被迫陷入反复自证清白的精神困境。对这类涉双方当事人隐私的信息,平台在算法推荐机制上就应预先设置风险拦截,更不应纳入流量池的热榜推送。

尤其是一些头部的MCN传播平台,粉丝量越高,那么它的审核注意义务就应该越高,后续应负的侵权责任相应也越高。“小号管得多,大号放任啥都说”,这种现状是不正常的。

此前网信办发布过“自媒体”的13条管理规定,对自媒体的内容、标记、引用等有明确要求;上月也刚出台了关于涉企信息举报的规范,尤其是针对网络暴力、炒作企业主隐私旧闻等不良行为的管理。法规政策不在多,重在实操细则的指导性。其实就反网暴而言,国内平台首在落实现行制度规章,这就很好了。

而具体到事中及事后,还有必要谈下人格权禁令。作为中止侵害行为及危害不断扩散的有力武器,这一制度不应该成为睡眠的制度,只拿来给法院做PPT用,必须要落到实处。平台毕竟不能扮演法院的角色,即使受害人申请了禁令而法院取证过程中如果迟迟不裁定,平台也无计可施。因此在这一禁令的适用上,一是法院审核上应该适度放宽;二则平台实操上应更积极敢为,一旦裁定禁令就要令行禁止,对侵权账号处置不手软。

三问:反网暴VS个保,平台管控的尺度何在?

专家:以法治为准绳,以事实定边界

南都:《指导意见》第10条保留了征求稿中关于认定标准的适用条款。明确“针对他人言行发表评论、提出批评,即使观点有所偏颇、言论有些偏激,只要不是肆意谩骂、恶意诋毁的,不应当认定为侮辱违法犯罪。”在类似微博小红书等圈层平台上,很多热点类网暴事件往往天然有对立利益群体(如饭圈、网络营销),平台在设定发言审核时,如何定义“偏激”和“恶意”?如何平衡人格权保障与言论自由的关系?

朱巍:事实是神圣的,而评论是自由的。尤其在争议性较大的事件中,平台对于用户人格权保障和言论自由的平衡标准,应立足于尽到平衡各方声音的义务,不能为了流量就将互联网变成狂欢的现场。事实的神圣性就是平台必须确保其上公示的信息之真实、公正,这并不仅仅是指捏造信息,还涉及歪曲事实和断章取义等问题。

网络暴力的源头是激发公众的同理心和同情心,以及社会转型阵痛下“仇官仇富”的戾气心态,所以有一些信息大部分的网民愿意相信是真的,虽然实际上是假的,但此类信息一旦曝光就很难证伪。更为隐蔽的就是片面歪曲信息的行为,很多自媒体平台经常可见脱离上下文语境、断章取义贴标签扣标题的文章视频,比如此前兰大历史教授授课的一段视频被批“抹黑抗美援朝”,后经多方信源视频印证才厘清真相,教师只是在列举批驳错误观点。

再提到饭圈文化,其实和绝大部分网络暴力事件的滥觞有着密切关系。饭圈中为了追星互相拉踩、“挖坟”蹦迪的套路,衍化到泛社会热点事件舆论场中,就成为类似“二极管”的不辨善恶是非只看立场的行为,看似是打着正义的大旗,但实际上损害的是网络的公信力,损害的是互联网上好不容易建立起来的信任感。

刘晓春:我们说的网络上的言论自由,在个体言论的场景下是很好判断的,而上升到群体言行就一事一议。一些法律条文的制定是为了防止过度扩张和侵犯当事人的正当权益,特别是在定罪量刑方面。对于构成犯罪的谩骂行为,很多平台都会事先拦截。对于不构成犯罪但聚集式一边倒的评论,可能难以直接追究民事责任或认定为民事侵权。然而,如果这些偏颇式评论聚集起来并形成一定的规模效应,对当事人已经可预见产生负面影响的情况下,平台是必然且应然进行预警和规制的。

而对于随意选择对象的网络侮辱、诽谤行为,可以使相关信息在线上以“网速”传播,迅速引发大规模负面评论,不仅严重侵害被害人的人格权益,还会产生“人人自危”的群体恐慌,严重影响社会公众的安全感,可以注意到,在新规里“严重危害社会秩序”也成为是否涉刑罪责的重要判断因素。

南都:《指导意见》新增,人民检察院办理网络暴力治理领域公益诉讼案件,可以依法要求网络服务提供者提供必要的技术支持和协助。在配合公权力反网暴执法和对用户信息保护间,平台取舍的标准尺度何在?

朱巍:标尺肯定是依法协助。包括诉讼法、网安法中都有明文规定,就是公安机关、国家安全部门侦查犯罪活动取证,互联网经营者应当是全程配合的。此外,网络安全法也已经明确过,所有的网络行为承担主体的账号必须是真实身份认证的,否则平台要承担拒不履行安全管理义务罪了。

刘晓春:公益诉讼这条,提供必要的技术支持和协助,可以看作扩大维权的执法主体,公检法在取证上毕竟更具专业性,相较自诉案件公民自行取证更有合规性保障,反而是对用户信息保护的利好。平台积极依法配合,其实是比较能平衡用户个人信息保护和用户取证便利性的,也是畅通诉讼程序,及时提供有效法律救济的题中之义。返回搜狐,查看更多

责任编辑:

发表回复