近日，中央网信办召开全国网信系统规范网络传播秩序工作视频会议，研究部署规范全平台网络传播秩序工作。“规范网络传播秩序，重中之重在于抓好过程管理和行为管理。”中央宣传部副部长，中央网信办主任、国家网信办主任庄荣文强调。其中，要抓住稿源这个基础，坚决关“后门”，严管违规自采、违规转载等突出问题，大力开“前门”，加快合规稿源的扩容提质，进一步丰富网上信息内容供给；要把“自媒体”的规范管理作为突出任务，加大对违法违规账号和所在平台的处置处罚力度，让监管长牙齿，让违规主体长记性。
与此同时，网信办新修订的《互联网用户公众账号信息服务管理规定》（以下简称《规定》）将在2021年2月22日起施行。网信办有关负责人表示，修订《规定》的考虑因素之一就是网上信息内容低俗庸俗、恶意炒作、情绪宣泄、恶意攻击、抄袭剽窃等问题突出，严重影响网络生态、破坏网络文明。需要通过修订原《规定》，进一步明确扶持和保护责任，引导和鼓励公众账号信息服务平台和生产运营者大力生产向上向善、求真求美的优质信息内容，建设更加积极健康的优秀网络文化。
2021年开年之际，监管部门对于互联网平台的内容生态接连“出拳”，内容合规管理也一直是各平台生态建设的重中之重。针对此，南都梳理了2020年扫黄打非办以及国家网信办针对互联网平台在内容合规方面的违规情况推出《2020互联网平台内容合规治理报告》（以下简称《报告》），分别从违规内容类型、违规表现形式、违规平台类型、获利手段、涉及行业及具体平台等多个维度，浅析过去一年互联网平台在内容不合规上呈现的主要特征以及监管部门的重点整治方向。同时，《报告》还梳理了众平台对监管手段的应对措施以及平台对违规内容的常态化管理，一探在如今互联网强监管时代下，内容类平台如何应对合规化风险。
三大“顽疾”： 涉黄、涉赌、违规信息
针对互联网领域的内容不合规通报，南都整理汇总了扫黄打非办、网信办等官方机构、官方渠道去年披露的135个案例，从违规内容类型来看，涉黄的违规案例占比最高，达到71%，紧随其后的是违规发布信息以及涉赌，分别占比32%和10%（注：由于大部分案件涉及多种违规内容类型，因此百分比总和大于100%）。
涉黄的案例中，南都梳理发现，违规行为集中在传播淫秽色情类视频或淫秽色情物品、直播平台组织淫秽表演；部分平台和网站虽未涉及违法行为，但却利用软色情打擦边球，传播低俗庸俗、带有性暗示的内容。
涉黄案例中，南都的统计数据显示，视频和直播是最高频的两类违规形式，分别占到44%和33%，从涉及的行业领域来看，直播也是占比最高的，达到34%，紧随其后是社交领域较易“踩雷”，占比为33%。
对于占比最大的涉黄内容的整治难点，中国政法大学传播法研究中心副主任朱巍告诉南都记者，如今平台常见的信息流广告，以及UGC类的内容或者是游戏类的广告都比较常见这类违规内容，其中整治的难点之一就是平台只是网络服务提供者，难以时刻监管到用户夹带在一些流量视频中的违规内容。
另外，还有一些程度各不相同的打“擦边球”的不良内容难以被觉察。“现在其实涉黄类的违法信息已经没有那么多了，但不良信息依然非常多，这些不良信息也不能说它们直接违规，但并不是正能量的内容，这一块是比较难去确定的。在这个过程中如果直接追究平台责任，平台方可以反驳这这并不是他们发布的，但平台现在的推流行为和算法机制的确又助长了这类内容”，他表示。
违规发布信息的案例在疫情期间呈现出显著特征，即平台不具备新闻采编发布资质的情况下，非法开展新闻采编活动以及发布信息，或者是发布与疫情相关的有害消息散布恐慌情绪；另外，常见的假新闻、标题党问题突出，散布谣言等严重干扰网络信息传播秩序。
违规发布信息的案例中，视频和文字是最高频的两类违规形式，对应占比分别为15%、13%。和上述涉黄的案例不同，社交领域在此类案例中是最容易“中招”的，占比为15%，另外还有新闻资讯领域也是高发区域，占比达到10%。
涉赌作为占比排名第三的违规内容类型，南都数据统计结果显示，其违法活动中往往与涉黄关联，例如通过淫秽色情直播吸引用户后再引流至网站中的赌博板块，或者是将涉及赌博的广告穿插在涉黄视频中进行传播。
正因为如此，涉赌案例的最高频两类违规形式与涉黄案例一样，也是视频和直播，不过占比远低于后者，分别为9%和5%。其高发的行业领域除了直播，还涉及视频行业，占比达到4%。
针对上述三类高发的内容平台违规类型，浙江垦丁律师事务所麻策向南都记者分析道，互联网经济本质上是流量经济，也是一种眼球经济，不管是为了吸引用户下载使用还是为了提升用户使用产品的粘度，都需要提供更有“价值”的内容，包括游戏、电商、内容、社交及服务等。“与之相对应的是，涉黄涉赌类内容因为能够激发人性，成为被黑灰产大肆利用于‘吸睛’的手段，通过涉黄涉赌类内容的发布和传播，给平台带来了极高的流量以及变现机会，因此这类内容在违法信息中一直居高不下。”
获利手段：社交平台成违规获利的主要载体
从上述的数据可以看到，直播平台和社交平台在三大主要违规内容类型中可谓是重灾区。南都的统计数据显示，从违规平台类型划分，一般网站（大多为自建网站）是占比最高的平台类型，达到近55%；紧随其后的则是社交平台、直播平台，乃至电商平台，分别对应的违规占比达到45%、41%、22%（注：因多数案件涉及多个违规平台类型因此百分比总和大于100%）。
排第二、三的社交平台和直播平台中，最高频的违规内容类型均为涉黄，占比均在30%左右，但对于违规发布信息，社交平台则要比直播平台高8%，占比达到15%。
对于社交平台成为违规高发的平台类型，艾媒咨询高级分析师刘杰豪向南都记者表示，社交平台网民数量大且稳定，庞大的用户基数更易得到违规信息传播的青睐。基于社交传播的封闭性，不少企业以及个人也企图打着隐私保护的幌子，试图绕过监管。另外，目前大多社交平台已具备支付交易功能，这也让平台成为了违规信息交易的温床。
这也从通报的获利手段可以看出。南都统计的数据显示，对于涉黄类违规内容，社交平台最常见的手段包括通过社交平台上的微信群、QQ群传播兜售淫秽视频；通过社群为网站/APP引流，引导用户通过支付会员费或打赏费继续观看色情类内容。直播平台最常见的获利手段除了通过直播平台进行会员充值或打赏获利；更多还通过在其平台招租的方式收取广告费或引流点击广告牟利。而对于两者占比差距较大的违规发布信息一项，其获利手段相对稍显隐蔽。多为利用虚假不良信息敲诈勒索、有偿发帖删帖、甚至还有制作假记者证牟利等。
值得一提的是，针对社交平台上公众号、自媒体类的内容违规，近日，国家网信办新修订了《互联网用户公众账号信息服务管理规定》。当中明确规定：公众账号信息服务平台应当建立健全网络谣言等虚假信息预警、发现、溯源、甄别、辟谣、消除等处置机制，对制作发布虚假信息的公众账号生产运营者降低信用等级或者列入黑名单；公众账号信息服务平台与生产运营者开展内容供给与账号推广合作，应当规范管理电商销售、广告发布、知识付费、用户打赏等经营行为，不得发布虚假广告、进行夸大宣传、实施商业欺诈及商业诋毁等，防止违法违规运营等。
另外，值得注意的是，电商平台成为了被通报内容违规中第三高频的平台类型，其中涉黄和违规发布信息占比最多。南都统计数据发现，电商平台最显著的特征为容易通过平台销售内含淫秽视频内容的物品，以及非法销售未经批准的出版物等，其中兜售非法漫画、网文作品等尤为高发。
违规趋势：视频行业侵犯著作权问题突出
据南都记者不完全统计，135个违规案例中涉及的行业包括社交、直播、视频、新闻资讯、电商、在线教育、游戏、网文、漫画、音频、出版等，其中社交行业波及最广，占比约44%，直播和视频行业分别占比38%和24%，再往后的新闻资讯占比近10%，电商类为6%左右。
针对社交类产品的违规高发问题，麻策建议社交平台应当严格管理其用户账号并及时采取冻结或封禁等管理措施，同时对例如产品中的地理位置功能、产品互动交流功能宜进行优化调整以便于违规内容的及时查禁；另外，相关主管机关有限开放违禁词库，避免社交平台查禁管理时的无所适从。
在上述涉及的众多行业中，除了前述多次提到的涉黄、违规发布信息以及涉赌占比依然居高不下，南都留意到，视频行业的内容违规中侵犯著作权的案例明显增多，占到了视频行业全部案例的近20%。
朱巍表示，目前视频类的侵权案例中短视频的侵权日益增多，其中最为常见的类型就是截取电影或电视剧的几分钟片段。而在2020年新修订的《著作权法》中，对此类视频内容的“合理使用”进行了重新界定。
朱巍认为，在传统著作权法律体系，合理使用已经被归纳得比较详细，但在网络短视频等新业态出现后，仍有很多“擦边球”情况的出现，导致合理使用可能被滥用。最典型的，就是所谓的“五分钟看完”某个作品，“三分钟带你看完”某个电影等，这些作品的特点都是将电影精华部分以节选的方式进行展现。这类视频对他人作品的使用目前存在最大的问题，在于评论者、介绍者目的不在于评论本身，而在于对作品的不当使用，打着合理使用的幌子掩盖侵权目的。在新法正式实施后，诸如“几分钟看完一个电影”的短视频就要面临侵权被诉的风险，因为其主要目的在于非法展示，而不在于文艺评论或简单推荐。
第二类常见的视频侵权问题则是盗取或盗版别人视频作品。朱巍表示，这类侵权问题很多会被平台的运营规则所规制，按照平台规则就能解决此类问题，即“依规依约”。“这也可以看作是未来解决著作权纠纷的一个趋势，很多问题不一定非像原来那样通过法律角度去解决，而是可以通过平台角度处理，通过平台的约定和制度保障。”
重灾区：微信、QQ、微博成高频踩雷平台
从扫黄打非和网信办通报的案例可以观察到，不少头部知名互联网都曾被多次点名，总体上来看，点名较多的分别是社交平台、长视频平台、短视频平台和直播平台。
南都统计的数据显示，从135个案例来看，被通报次数最多的是微信，占比达到近31%，排名二、三的是QQ和微博，占比约15%和10%。百度的浏览器、贴吧和网盘等产品也占到了7%左右的通报比例，淘宝则占到5%左右。不过，大部分的违规行为并不是平台直接组织，而是属于用户“借道”，平台作为第三方涉及违规。
微信的相关违规案例中涉黄占比最高，为26%，最高频的违规形式是视频，占比达到14%。例如，名为“琳琳漫社”的微信公众号上有大量淫秽漫画书，需充值收费才能观看；犯罪嫌疑人搭建淫秽小说网站“极度文学”，利用高额提成吸引代理商为其推广，代理商通过流量商，流量商委托广告公司应用引流裂变技术，短时间内将广告链接“裂变式”传播到大量微信群；还有犯罪嫌疑人组织未成年人在手机直播软件上进行淫秽色情表演，拍摄制作图片、视频，后上传300余张未成年人裸露照片、38部未成年人淫秽视频至多个微信、QQ群和“与你”聊天软件，供群成员下载观看。
而作为第二高占比的QQ，南都发现无论是违规内容类型、形式、过错方还是获利手段都与上述微信高度相似，但在获利方式中，犯罪嫌疑人比较容易利用QQ引诱用户裸聊从而牟利。比如，犯罪嫌疑人通过网上购买的VPN以及一系列软件自动加好友，控制QQ号设定色情头像、色情个性签名、验证信息，引导受害人加境外裸聊进行敲诈勒索。
而微博和百度的违规案例中，违规发布信息的占比是最高的，均在6%左右，其违规表现形式除了常见的视频，还有文字。如新浪微博曾因干扰网上传播秩序，传播违法违规信息等被网信办约谈处罚；对网民反映新浪微博出现大量诱导性文字、图片等内容且投诉处理不及时等问题，“扫黄打非”办及时约谈企业负责人并给予行政处罚。针对百度APP大量传播低俗庸俗信息、密集发布“标题党”文章、公众账号注册管理及内容审核不严，多个频道存在严重违规等问题，北京网信办曾依法约谈百度公司负责人要求进行整改。通报违规次数排名第五的为电商平台淘宝，其违规形式和获利手段都比较集中，即非法销售出版物或淫秽视频牟利。
另外，除了上述平台被违规通报次数较多，以爱奇艺、b站、优酷为代表的长视频平台和以抖音、快手和斗鱼、虎牙等为代表的短视频及直播平台，都占据了被通报平台的一定比例。
据统计，上述平台均容易因为内容涉黄及含有打擦边球的不良信息被通报。例如，扫黄打非办曾点名优酷登载含有性暗示及低俗内容的两首音乐MV以及含有“先吃点摇头丸”等涉毒内容的一首网络音乐，存在经营性互联网文化单位提供含有禁止内容的互联网文化产品的违法行为；点名“爱奇艺”登载存在诱导未成年人违法犯罪和渲染暴力、恐怖活动等内容的两款网络游戏解说视频，存在传播的视听节目含禁止内容的违法行为。而b站这类弹幕文化兴盛的平台，其相关弹幕和跟评也是不容忽视的违规风险点。
而随着短视频平台也开始更多布局直播功能，其与直播平台均容易因为传播低俗庸俗内容、主播出现违规行为、履行主体责任不利等问题被通报批评。
从获利手段来看，各类平台可谓是殊途同归，围绕“流量经济”特征进行牟利。如通过平台推送导向不良信息，故意利用色情低俗、暴力恐怖等有害内容引流；利用平台传播贩卖淫秽视频；获取平台会员费、打赏费与广告费等。
监管难点：八成以上违规行为属第三方过错
从上述可以看到，平台作为第三方身份的过错占了大部分。南都统计的数据显示，该类型违规案例占比达到81%，其中主要的违规内容类型为涉黄（61%）、违规发布信息（20%）、涉赌（7%）、侵犯著作权（6%）。
对此，看懂研究院高级研究员张书乐告诉南都记者：“实质上还是反映出平台的监管能力，即发现问题的技术实力、查处问题的主观意愿，还是很薄弱。”他认为，最有效的处理法则有两条：其一是在技术上，通过人工智能、大数据达成初筛，在实时监控上尽可能堵住大多数违规违法内容；其二是在人力上，通过更多更快的人工审核，对隐藏更深的“躲猫猫”行为进行有效查处。此外，在发现之后的处罚力度，即违规成本，也将决定上述内容的发布者会否屡禁不止。
南都了解到，互联网平台作为第三方渠道方处理内容违规问题目前尚无统一的规则，但可参考的是针对侵权问题的“避风港原则”。北京云嘉律师事务所律师、中国政法大学知识产权研究中心特约研究员赵占领曾介绍，"避风港"规则就是信息网络传播权保护条例中的通知-删除规则，信息存储空间的提供方或者搜索、链接服务的网络服务提供者，对于用户的侵权行为，一般情况下，并不直接承担侵权责任。但如果权利人发出侵权通知之后，提供信息存储空间的网络服务提供者不采取措施制止侵权，则对损害扩大部分承担连带责任。一般来说，“避风港”规则多针对UGC平台或者搜索、链接服务提供者。
不过，随着目前相关侵权案例的增多，朱巍表示，“红旗原则”适用更为广泛，也能更好地防止“避风港原则”被滥用。“虽然违规内容虽然不是平台直接发布的，但平台提供了发布空间以及技术支持。”南都了解到，“红旗原则”指网络平台上的侵权事实显而易见时，网络服务提供者就不能装作看不见，或以不知情来推卸本应该承担的法律责任。另外，从2021年1月1日起施行的《中华人民共和国民法典》第1197条规定：网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。
从南都整理的案例来看，监管部门对平台的整改措施总体上多为进行约谈并限期整改、暂停相关频道栏目更新、全面下架产品或功能，停止互联网接入服务、严肃处理相关责任人，严重的会接受罚款和行政处罚。
值得注意的是，对于长视频平台，还会针对其弹幕、评论功能，要求全面排查违法违规和不良信息，加强视频、直播内容、漫画、图文及相关弹幕和跟评的审核；同时明确要求，在验收网站整改工作合格前，暂停具有舆论属性或社会动员能力的新业务新功能的内测或上线。对于直播类平台，还会暂停新用户注册，将部分违规网络主播纳入跨平台禁播黑名单等。
其实，内容合规问题一直是内容平台的“顽疾”，麻策向南都记者表示，平台仍然是“以网管网”中重要的内容治理抓手，内容治理本质上是生态治理的工作。单纯的内容整治仅仅只是治表，本质上仍然是互联网账号以及接入网络的实名体系问题，导致黑灰产不易被识别。“期待修订中的《互联网信息服务管理办法》发布后，能够在执法上迅速跟进。”
【行业洞察】
头部互联网内容平台治理措施
除了外部的监管措施，许多互联网内容平台也搭建了一套适合自身平台生态的内容合规治理规则。南都发现针对涉黄、涉赌、违规发布信息等问题上述平台均发布过相关整治通告，以下为归纳摘取的部分典型案例。
【涉黄】
微信对涉及黄赌毒的违规内容，一经发现即删除内容，并屏蔽微信朋友圈；对违规帐号，将视情节对该微信帐号进行警告、限制或禁止使用部分或全部功能、帐号封停及永久封停处罚；对违规微信群，将视情节进行限制使用功能或封群处理；对违规链接将进行封禁处理，并公告处理结果。
微博发起了“蔚蓝计划”抵制软色情。对于部分微博群内存在大量的涉黄、违法和其他的违规内容。微博方根据投诉线索，主动解散违规的微博群超百万个。对其中疏于管理微博群且情节严重的群主、群管理员、群隶属人采取了限制建群功能、禁言和关闭账号等处置措施。
优酷会对以“软色情”博眼球、赚流量的账号进行关停，对发布低俗信息的账号进行禁言处罚，对靠低俗软色情打“擦边球”的账号昵称进行了系统重置。启动专项治理，研究明确“软色情”判定6要素，从运动健身、舞蹈、街拍等易于传播“软色情”场景，归纳出13类“软色情”信息内容类型，分别制定审核和处置规则。
抖音除了常规的封禁短视频账号，对涉嫌进行色情招嫖、诈骗钱财、虚假宣传的虚假直播，处罚相关直播间和封禁主播。并且，抖音对色情黑产行为组织了专项打击，根据犯罪分子不断变化的犯罪、作弊手法，持续升级完善技术模型。
快手则会定期通过处置违规视频、处罚账号、清理违规个人信息等常态化治理手段处理平台上的软色情问题，并且针对此问题成立了专项治理小组，加大人力投入和加强技术干预。
【涉赌】
对于涉赌相关的违规行为，各平台的治理方向比较集中，南都在此摘取比较典型的平台做法。如微信明确打击恶意注册给网络欺诈、恶意薅羊毛、网络色情、网络赌博、垃圾营销等违法违规行为提供了作恶最基本的帐号资源。QQ曾针对部分黑产冒用公司名义进行 “腾讯分分彩”私彩赌博的行为，协助公安机关开展私彩赌博源头集群打击，捣毁多个提供私彩数据接口的平台。在2020年三季度，QQ平台与“腾讯守护者计划”一起协助各地公安机关，破获电信网络诈骗、网络赌博、非法经营、网络水军、游戏外挂、云上黑产等各类网络违法案件超过20起，抓获犯罪嫌疑人近450人，涉案总金额近11亿元人民币。
【违规发布信息】
社交平台是违规发布信息的高发区。因此可以看到，微信每个月都会针对朋友圈十大谣言进行辟谣。特别是在去年疫情严重时期，微信开启了针对新冠肺炎相关谣言的专项治理公告，并且按照平台相关协议规范，对违规的信息内容进行删除处理，并视其违规程度对违规账号进行阶梯式处罚；包括但不限于对账号或账号功能进行限期或永久封禁处理。
微博针对饭圈文化茂盛的特点，开展2020“清朗”未成年人暑期网络环境专项整治。其中就包括清理涉娱乐明星的互撕谩骂、人身攻击话题，重点打击饭圈黑粉和恶意营销号。另外，为响应网信办工作要求，微博曾集中整治平台内自媒体账号违规采编发布互联网新闻信息、转载非合规稿源问题。
为落实《网络信息内容生态治理规定》，进一步保护广大网民的相关权益，维护绿色健康的网络传播环境，按照国家和北京市网信办统一部署要求，百度曾对其移动生态旗下各产品，包括百度新闻、百家号、百度贴吧、好看视频等，启动过为期两个月的恶意营销账号专项整治行动。本次行动重点针对造谣传谣类营销、冒用机构媒体及公众人物等名义侵权假冒类营销、“标题党”类营销、违规采访类营销及色情三俗类营销等网络恶意营销账号进行清理，对问题账号从严从重处置。
出品：南都商业数据新闻部
采写：南都记者 徐冰倩 实习生 杨亚晨
统筹：甄芹 田爱丽
制图：何欣
