治理网络暴力需要更多技术响应

(资料图片仅供参考)

7月7日，国家互联网信息办公室起草了《网络暴力信息治理规定(征求意见稿)》。7月8日新华网的报道显示，近年来，各大互联网平台上的网暴现象明显增多，而发动网暴、跟风讨伐的成本较低，导致用户发布攻击内容较多。

毫无疑问，公众苦网暴久矣。近年来，网暴引发的悲剧不少，其中，有的是个人、自媒体账号或组织为了流量等利益刻意为之，有的是人们在不以为意状态下攻击他人形成的规模效应，还有的是“法不责众”心理驱使下的跟风讨伐、地域黑、群体黑等。

每一起网暴事件，看起来似乎都是“新闻上的故事”，但它其实离我们很近，不少人甚至也曾在有意或无意中充当了导致“雪崩”发生的“一片片雪花”。

治理网暴，现在已有民法典、刑法、治安管理处罚法、网络安全法、个人信息保护法等一系列法律，也有《互联网信息服务管理办法》《电信条例》等行政法规。上个月，最高法、最高检、公安部还联合出台《关于依法惩治网络暴力违法犯罪的指导意见(征求意见稿)》。这些规定和要求的重点大多是在末端治理，即网暴发生后如何规制和救济。现实中，追责的难度依然较大，比如定性难——侮辱、诽谤的认定标准，受害与网暴的关联性，精神伤害程度认定，等等。

在此背景下，此番国家网信办的征求意见稿主要聚焦平台方的作为、责任和义务，更加强调源头治理和过程治理。这也意味着，源头治理+过程治理+末端治理，形成了更完整的治理链条，织密了治理之网，其效果值得期待。

网暴发生在网络空间，网络平台是技术和服务的提供方，离网暴最近，有技术能力去对网暴进行监测预警、发现识别和及时处置，这也是平台应承担的社会责任和法律责任。

近年来，有关平台也为此做了一些技术尝试。比如，跟帖留言显示用户IP地址所在省、评论框设置友善发言提示、为遭受网暴的受害者提供便捷求助渠道，等等。要有效遏制网暴，平台还应在技术响应上多一些探索。比如，一些直播平台对诸如“斗狠PK”“打色情擦边球”等涉嫌违法违规的主播或内容进行断播、封号，采用的技术多为“机审+人工巡检”，即通过“热度阈值”“以图比图”“声纹识别转文字”等，及时发现异常情况并介入处置。在治理网暴上，此类技术也应该派上用场。上述征求意见稿明确指出，平台应当建立健全网络暴力信息分类标准和典型案例样本库，区分舆论监督和善意批评，增强识别准确性；应当建立健全网络暴力信息预警模型，及时发现预警网络暴力风险等，这对平台提出了现实又迫切的要求。

网暴是一场没有旁观者、没有局外人的精神霸凌，遏制网暴的一招一式，关乎整个互联网的秩序，也关乎每一个人的权益甚至安危。平台多一些技术响应，网暴治理才有望取得更大成效。施暴者的一个点赞、一条评论，都可能成为一把插向他人心头的利刃——这必须成为过去式！

吴迪

吴迪

关键词