>

网易易盾护航在线阅读扫除小说中的“不定时炸

- 编辑:兴宁市测绘与空间地理信息 -

网易易盾护航在线阅读扫除小说中的“不定时炸

  在线阅读是一座随身携带的避难所,用户在这里体会最真实的人生百态,给苦闷的日子增加一丝趣味。违规内容,如黄色、涉政、暴恐、灌水等,无一不侵蚀着这座避难所的墙垣,有轰然崩塌之危,有贻害读者之毒。

  近日,内容安全的巡检成为许多在线阅读平台相当重视的经营环节,平台逐字、逐句、逐行浏览每一部小说的文本,审核陷入低效甚至无效的恶梦中。

  网易易盾通过“AI+人工”数字阅读解决方案的巡回检查,帮助在线倍审核效率,更精准发现违规内容的所在。

  国内某在线年打造了一款网络文学APP,常年稳居在线免费网文平台前三甲,以“AI算法推荐 + 优质原创内容”的优势,搜罗都市、言情、甜宠、穿越、玄幻、修仙等热门小说,为用户免费提供在线小说和大型文献库。

  以免费小说为核心,该运营商不断加强内容生态的建设,衍生出游戏、有声读物、IP电视连续剧,适应用户不断变化的内容偏好。

  截止2020年12月,旗下网络文学APP日均活跃用户达到近1000万,每日阅读时长稳定在130分钟,签约作者超过3000位,原创作品贡献收入超过50%,高于行业平均水平。

  网络文学市场竞争激烈,头部免费阅读 APP越来越看重内容竞争力与安全性。为寻求更大的商业价值和点击量,不少作品开始“钻空子”。

  网络文学诞生于自由宽松环境中,出现了色情、涉政、暴恐、违禁、广告、诈骗、灌水等有害违规问题内容,这些散布在小说中的“苍蝇卵”让读者大倒胃口,亦会孵化出更多风险。近年来,在网络阅读用户破亿的同时,监管也如期到位。

  ? 2019年3月,国家针对网络阅读行业展开“净网行动”,米读小说和番茄小说在2019年7月-10月整改停更,用户活跃度下降明显。

  ?《网络出版服务管理规定》、《互联网信息服务管理办法》、《互联网著作权行政保护办法》、《信息网络传播权保护条例》等法规要求互联网小说确保内容安全。

  一部网络小说往往达几十万字至百万字之多,阅读花费时间较多。该运营商采用传统编辑审核的方式,往往审完一本小说就耗时数周。缓慢的审核速度追不上上千名作者的创作节奏,跟不上业务发展步伐。

  小说文字赋予了“软色情”优渥的繁衍空间,充满着挑逗与诱惑。“软色情”,并不像“色情”一样直接出现和性有关的内容,而是描写给人以性联想的场景,狡猾地绕过露骨的黄词,分散在小说的各个章节。

  该运营商作为国内在线阅读行业“三巨头”之一,对内容安全的关注从历史完结小说,延伸到新更连载作品。如何在万字长文中快速发现问题,确保合规运营,始终是该产业最重要的挑战。

  为此,其在业务上亟需一个专业、可靠、值得信赖的数字内容风控商,希望为平台上的完结本带来更有效的审核,快速找出百万字文本中的安全隐患,确保小说对用户无害。

  为了消除后顾之忧,该运营商选择与易盾合作,建立基于“AI+人工”的数字阅读解决方案,对连载、完结小说进行多维度审核。

  易盾采用NLP算法有效理解小说的语义,结合专家策略解读、智能审核平台及人工审核,在机器和人工的配合下,一本长达几十万字的完结小说只需要2-3天即可审核完成。从技术角度来看,易盾在长文本审核上做到了哪些节点上的升级呢?

  一书一审更连贯:客户的不少小说正处在连载中,尤其在章节顺序上,怎样保障前后章节的审核标准共享、审核逻辑统一、审核人员不变,面临了巨大的挑战。

  基于智能审核SaaS平台,易盾引入多元ID跟踪体系,为书籍、主题、章节、审核员打造唯一ID标签。同本书各个章节的ID序号就摆在那里,主题和前后顺序一目了然。

  ID体系,按章节排序发给审核员,在分配上保持前后章节的一致性,宛如一跟无形的绳索,帮助连载内容在数周、数月后,找到最初的审核大本营。

  长文本审核技术:小说的篇幅长,真正的违规内容往往只占若干个零散的片段,分散地隐藏在整篇小说中,并受小说体裁的写作风格影响,给机器审核带来挑战。

  客户发现,普通“文本审核”模型,对语意把握不足,导致误判率高,有害信息检出率偏低。这是由于普通模型,通常基于短篇的常规文本数据集进行学习,无法直接处理小说、电子书、漫画等长篇文本。

  易盾自研了“长文本审核”技术,使用轻量级的语义检测模型,以长篇小说作为训练数据,以各个章节为单位,进行先分句再合并,实现长短文本系统的通学通用,提升了机器审核对小说的语意理解能力,识别效果更精准。

  分级监控色情:色情是小说中最常见、最严重的问题之一。客户希望将色情问题分为轻度、中度、重度3个不同等级,分级治理。为此,易盾总结常见色情场景,定制了不同梯度的色情策略,与该运营商定期组织业务复盘,完善各级色情的规则与标准。

  方便审核处置:有了易盾的一臂之力,该运营商更便利地实施平台规则。一是,将不通过内容进行内容标记,便于在后续针对不通过内容可进行二次修改。二是,一旦同一本书的章节违规率超过30%,该运营商可选择直接打回给创作者,极大提高不良内容处置效率。

  智能审核平台,由易盾自主研发,致力于打造一站式审核服务,通过多轮审核、走查、质检、电视墙等功能,支持极速分类审核、多人同审、关联审核、聚类审核模式,极大地减少客户的开发成本,降低了数字内容风控的使用门槛。统一管控、全程溯源、实时审查,轻松掌控潜伏于生态中的内容风险,极大提升人工审核效率。

  通过本次合作,几大合规审核难题迎刃而解,客户能够迅速在线阅读平台锁定违规内容,给读者多一层安全感。该在线倍,专业审核员每日可审核达2500-3000章,准确率保持在99.98%以上,有效应对快速增长的作品、预算有限等挑战。

  随着网络小说平台快速发展,易盾潜心打造了基于AI的一站式数字阅读行业解决方案,还应用于中文万维、快看漫画、网易云阅读、连尚小说等阅读产品,开放给网文、小说、电子书、动漫等原创内容,成就了数字内容领域的安全阅读体验,以合规经营带来用户量的攀升。

本文由在线导读发布,转载请注明来源:网易易盾护航在线阅读扫除小说中的“不定时炸