移動互聯網下半場 內容安全已成互聯網企業生命線

一大早，朋友就告訴了筆者一個不好的消息：最近，他網站被網信辦約談了，需要至少關停一周，原因就是網站存在不良內容。

事實上，在最近幾個月里，內容安全問題似乎已經成為了整個互聯網行業的普遍現象。5月27日，好奇心日報網站和App 自 2019 年 5 月 28 日零時起停止更新 3 個月，讀者評論和其他互動都將暫停；5月30日，B站、虎牙、斗魚等直播平臺相繼發布了系統技術升級通知，彈幕功能將受影響。

僅僅只是在5月份，就有B站、起點文學、晉江文學網、釘釘社區發布暫停更新或直接被查處懲罰。在如今的互聯網行業，使用國內的服務器并作出產品備案審核，哪怕你只是一個小平臺，只要存在不良內容，那么你就有被約談的可能。

在不斷營造風清氣正的互聯網環境的過程中，是否配有內容安全、以及內容安全風控能力怎樣，開始真正影響到一家互聯網企業的發展甚至命運。

正常來說，以往出現內容安全問題的企業大多數是頭部知名企業，但伴隨著互聯網行業的成熟，情況已經不一樣了。從目前的市場態勢來看，不僅是筆者朋友的小網站被約談，從監管頻率、監管力度、監管范圍來看，整個互聯網行業已經徹底告別簡單粗暴的發展階段，不管一個企業的融資金額、用戶數據、營收數據有多好看，一旦觸碰到法律法規，縱然是幾億甚至幾十億價值的產品，一樣只能跟市場告別。

隨著近兩年營造風清氣正互聯網環境的決心，正把諸多在上個階段無序發展的互聯網公司弄得始料不及。

大小產品均被大范圍監管 內容安全已成為互聯網行業最大的隱雷

不止是5月迎來了互聯網產品內容安全問題爆發季，在最近這幾個月，你會發現包括雪球、今日頭條、知識星球、簡書在內的諸多知名APP，全部都曝出了內容安全事件，被暫停更新、甚至下架等。

其中，近期最轟動的就是晉江文學網被查處、起點中文網多個頻道要求整改的消息。作為一家成立于2003年的老牌女性網絡文學網站，晉江文學已經衍生出大量知名的影視IP，其中就包括了《花千骨》、《魔道祖師》、《鎮魂》、《知否？知否？應是綠肥紅瘦》、《香蜜沉沉燼如霜》、《羋月傳》、《微微一笑很傾城》、《美人心計》、《戰長沙》、《何以笙簫默》、《泡沫之夏》等火熱作品。

在IP泛娛樂市場越來越大的情況下，擁有大量IP的晉江文學，本來可以迎來更迅猛發展，但因為在內容安全管理方面存在漏洞，導致晉江文學有部分內容涉嫌傳播淫穢色情信息行為被北京掃黃打非部門查處，大大影響了晉江文學的發展。

同時，哪怕是最大的網文平臺起點中文網，也因內容安全問題讓業務受到影響。起點中文網問題突出的“都市”頻道“異術超能”欄目、“女生網”頻道“N次元”欄目暫停更新7天，很多火熱的網文作品也受此影響不能更新甚至被封禁，大量作者跪求讀者們不要下架他們作品。

這一切，歸根結底還是網文平臺在內容安全管理存在缺陷。包括晉江文學、起點中文在內的諸多互聯網平臺，他們在激烈的市場競爭都沒有倒下，沒想到竟然會在內容安全問題上“折戟”，這值得所有互聯網從業者警惕。

同時，從去年下半年開始，包括阿里云在內的諸多域名/主機服務商，對內容審核的要求也越來越高，網站備案的難度顯著提升。在備案資料方面，以前阿里云的企業備案只需要營業執照和法人身份證就行，但去年下半年開始阿里云的企業認證需要企業手持身份證和營業執照一起拍照，這讓一個網站備案的時間也越來越長。

很多企業千辛萬苦完成阿里云網站備案之后，結果又強制要求阿里云備案的域名就必須使用阿里云的服務器，否則在系統檢測出來之后將面臨停止服務器訪問甚至取消備案的后果。但如果使用阿里云服務器，你就會發現阿里云服務器端的垃圾內容過濾機制開始影響到網站運營，系統總是時不時地就停止了一些網頁訪問，要求修改內容才能繼續開啟服務器提供服務。

這些舉措看似的阿里云的審核趨嚴，本質卻是整個中國互聯網環境在更加正能量的發展過程中，網絡基礎服務平臺需要配合監管部門必須去做好的一些信息工作。

與此同時，不止是中國對內容安全監管趨嚴。國外也對內容安全開始加強監管。新西蘭總理Jacinda Ardern之前表示，科技公司應被視為“出版商，而非只是郵遞員”，而澳大利亞總理Scott Morrison也曾表示：“把互聯網當作一個無人管理的空間是不可接受的。”

法律層面，國外也開始不斷立法。澳大利亞今年通過一項新法律，嚴控在社交媒體上傳播暴力內容，如果社交媒體平臺沒有快速刪除平臺上暴力恐怖內容，公司高管可能被判入獄3年，而社交媒體平臺也將面臨高達其年營業額10%的罰款。而在同一個時間段，歐盟也通過草案：如果無法在一小時內刪除恐怖主義內容，企業將面臨最高達全球營業額4%的罰款。

內容安全問題也發生在其他國家。比如抖音國際版TikTok 在印度非常火熱，但前段時間也因為內容問題遭受封禁。同時，著名游戲平臺Steam也被印尼政府封禁過，印尼甚至還要求過Google、Facebook對一些違規內容進行下線刪除。

從這來看，不論是國內還是國外，內容安全已成互聯網企業標配風控項，而且基本涵蓋所有的互聯網行業。

不管你是不是內容產品，哪怕你是一個服務型產品，但你產品里有評論和展示內容，你就一樣有可能會遭遇內容爆雷的風險。這樣一來，內容安全就必須是標配。

在這個具備一定門檻的市場中，創業不僅要考慮用戶、資金、資源從哪里來，還必須重視監管層面的問題，真正地承擔起主體責任，才能守住一家互聯網公司的生命線。

如何排除內容安全這顆雷？思維、技術、策略都需要突破

怎么辦？生活再殘酷，也還得繼續。

盡管互聯網行業不再是可以簡單粗暴獲得流量然后變現的時代，對于內容和服務的要求也越來越高，但這某種意義上也是一個大浪淘沙的過程，是真正將劣質的信息驅除出去的一個過程，這也是互聯網創業者必經的一個過程。

那么，面對這樣所有互聯網企業都不得不去重視的生命線，大家又應該怎么辦？我認為，最核心是其實就是要從思維、技術、策略三個層面進行再升級、再突破。

（1）對于內容安全，筆者認為很多人需要從思維上進行突破。其實在很多年前，就有很多互聯網企業在做跟內容安全相關的事情，其中最簡單粗暴的方式就是關鍵詞文字過濾。

尤其是對于媒體和社區來說，建立一個違規關鍵詞數據庫，然后用文字一對一地進行判斷識別，然后對帶有違禁詞的內容進行屏蔽，這是一個哪怕到現在還還在沿用的一種內容安全管理方式。

在過去，很多企業也許在內容安全管理方面就做了這么一件事情，然后也安穩度過了很多時間，這讓很多人認為內容安全其實就是做關鍵詞屏蔽，導致有一些企業對于內容安全不夠重視。

事實上，大家要從思維上重新認識內容安全。過去很多公司覺得從監管部門或者其他渠道拿到了一些關鍵詞列表加入到數據庫中進行屏蔽，內容安全就搞定了，這導致很多企業一度都不舍得再升級技術和招聘內容審核人員。

事實上，時代已經發生了變化。這是一個富媒體時代，圖片、視頻、音頻的內容安全遠比文本處理要復雜，早已進入到了人工智能不斷迭代+人工審核補充的時代。從最近這兩年的多起內容安全事故之后，以百度、騰訊、阿里、今日頭條為首的諸多公司都紛紛加大了內容審核人員和技術的投入力度。

從這個角度來看，尤其是在行業處于中上地位的企業，格外要重視從思維上進行升級。

有些互聯網企業在內容安全上出問題，跟他們此前的思維落后有些關系。只有首先從思維上對內容安全重視、對內容安全給予持續的投入，才能真正從管理執行方面解決內容安全問題。

（2）那么，策略方面大家應該如何做呢？巨頭和中小公司的策略顯然不一樣，并且內容安全管理和整體的運營策略也已經關聯非常緊密，如何做好新時代的內容安全管理，還得結合實際情況來看。

對于有一定數據規模和數據沉淀的大企業來說，如果本身技術實力還可以，那么人工+自建體系+內容安全服務商三重方式去做，是最穩妥的。如果擁有政策法規解讀能力再加上得當的運營策略制訂，以及能持續不斷地投入算（物）力、人力，也可以采用人工+自建體系。

但對于大多數本身數據和公司規模都不大的中小企業來說，由于數據沉淀不及巨頭，且很難及時、正確地解讀政策法規，那么自建體系這個部分或許就只能換成尋找靠譜的內容安全服務商。

為什么這么說呢？一方面，自建體系如果沒有強大數據做沉淀，其整個體系的訓練模型也很難達到預期效果，導致投入了還是會出現內容安全問題；另外一方面，自建內容安全體系成本并不小，如果不能持續的重金投入，最后也可能達不到自用的預期。

那么，第三方內容安全服務商應該如何選擇？市場主要也就是兩類服務商，一類是專門一直做技術類服務商的企業，他們跟上了這個時代的技術步伐，能夠提供一些技術解決方案，另一類就是不僅擁有技術實力，還擁有大量數據沉淀和自身也有內容安全需求的大公司，這一類公司的內容安全服務從效果、價格以及服務及時性、業務場景的覆蓋等維度來看綜合效益最好。

比較典型的是網易易盾，它擁有21年專業內容安全防護經驗及大數據積累，其次也服務了小米、花椒、VIVO、OPPO、網易新聞、網易云音樂等多款用戶過億的產品。根據它的官網顯示，易盾的第三代內容安全服務提供鑒黃、涉政、暴恐、廣告等數十大類上千小類的有害內容智能識別過濾服務，智能識別精準率超過99.8%。最近，網易易盾還推出了內容安全月活動，能夠通過歷史數據專項策略布控、快速清洗、全面檢測，及時幫助中小企業降低內容安全隱患。

這種服務，其實本質是源自于網易內部自身使用的技術解決方案和數據模型。網絡上有公開資料顯示，網易易盾是如今已達20+“高齡”的網易安全部在2016年，將其自身的技術沉淀和實踐云化并對外提供服務的結果。

如果說能夠獲得一個大公司自身使用的內容安全解決方案，那么這樣的體系確實在實用性方面會更強。不過，選擇服務商也好，自建體系也罷，不容忽視的就是一定要在技術上有所突破。

（3）技術方面，其實最大的挑戰在于數據訓練模型和音頻、視頻處理的技術突破——如何高效、準確地處理不良內容，這非?？简灱夹g體系的實力。

比如在短視頻和直播這兩年用戶激增后，很多主流平臺都因不良內容被監管部門處罰，音頻和視頻如何有效處理不良內容一度成為一個難點。業內是如何解決的？網易易盾饒曉艷此前就在接受雷鋒網采訪的時候有簡單分享過相關做法。

首先，他們結合政策法規和輿情分析團隊的策略、20多年的數據和技術沉淀，配合關鍵特征提取和識別訓練強化機器的訓練能力，讓內容安全系統能夠利用人工智能技術實現視頻和音頻的有害信息識別與篩選。

后來，他們還會根據新事物、新特征不斷迭代內容安全技術。比如短視頻中的呻吟聲或者嬌喘聲，以及ASMR場景下的違規音頻。這是用傳統手段無法識別的，網易易盾進行了技術迭代，使用了聲紋檢測技術，并在內容安全類目上新增了嬌喘呻吟類。

從這個案例去看，不管是自建體系還是找服務商，最核心的一定是技術迭代速度要快，要及時跟進違法違規團隊的操作手段進行識別和處理，才有可能真正符合當前的監管要求。

總體而言，內容安全是如今所有互聯網公司都需要邁過去的一個門檻，只要在思維上有所突破，不管采用怎樣的策略去完善這塊的漏洞，在持續研究或者選擇前沿有效技術去解決問題之后，內容安全的排雷工作自然也差不多完成了。

監管更嚴的趨勢不可逆不重視內容安全的公司注定被淘汰

1月份“掃黃打非”部門開展學習類APP專項整治工作；

3月全國“掃黃打非”辦公室在全國范圍內開展“凈網2019”、“護苗2019”、“秋風2019”等專項行動，持續凈化社會文化環境；

4月份，全國“掃黃打非”辦公室又組織開展網上低俗信息專項整治活動。

一系列的監管動作，讓大量的互聯網產品進入自查自糾或監管部門強制要求整改狀態，這已經凸顯出監管部門要打造風清氣正的互聯網環境的決心是足夠堅定的。

在未來的中國、甚至國際的互聯網環境中，對內容強監管的趨勢，是不可逆的，因為守住公序良俗和道德底線，創造青少年健康成長的互聯網環境是所與人的共識。盡管這樣的趨勢會淘汰掉一大批互聯網企業，但互聯網終歸就是一個充滿了競爭】的商業生態。

監管部門從規矩上為用戶們提供一個良好、健康、正能量的環境，只有真正可以承擔起主體責任的公司，才有可能在這樣一個新時代更好的生存下去?，F在互聯網行業一切都和內容有關，在監管更嚴的情況下，如果還不重視內容安全，也許這樣的企業也只剩下被淘汰了。

作者介紹：小謙，小謙筆記（http://xiaoqianbiji.com/）創始人，互聯網觀察員，數十家科技媒體專欄作者，微信請聯系net1996