潮人地東莞seo博客小編下面跟大家分享關(guān)于seo技術(shù)：如何從產(chǎn)品經(jīng)理的角度分析產(chǎn)品(產(chǎn)品經(jīng)理視角看內(nèi)容審查與風(fēng)控策略)等問題，希望seo專員在做seo優(yōu)化的過程中有所幫助，內(nèi)容僅供參考。
一個(gè)內(nèi)容社區(qū)的用戶角色，大致可分為內(nèi)容生產(chǎn)者（創(chuàng)作型用戶）和內(nèi)容消費(fèi)者（瀏覽型用戶），既有內(nèi)容的生產(chǎn)創(chuàng)作，又有觀眾能夠消化掉創(chuàng)作產(chǎn)能，形成良好的社區(qū)內(nèi)容生態(tài)。
如何保證內(nèi)容平臺(tái)和內(nèi)容社區(qū)里的“內(nèi)容”，有良好的文化導(dǎo)向，形成良好的內(nèi)容氛圍，就需要平臺(tái)介入到內(nèi)容創(chuàng)作中，引導(dǎo)內(nèi)容生產(chǎn)者創(chuàng)作符合平臺(tái)價(jià)值觀的內(nèi)容，以及引導(dǎo)創(chuàng)作平臺(tái)提倡的內(nèi)容。在平臺(tái)介入內(nèi)容創(chuàng)作的各種方式中，內(nèi)容風(fēng)控就是其中一種。
除內(nèi)容文化導(dǎo)向外，內(nèi)容平臺(tái)的監(jiān)管責(zé)任，也是內(nèi)容風(fēng)控的關(guān)鍵原因。2020年3月，國家網(wǎng)信辦針對(duì)互聯(lián)網(wǎng)內(nèi)容亂象，出臺(tái)實(shí)行了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)新安縣seo優(yōu)化排名定》，明確了網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)的責(zé)任，這意味著，對(duì)于內(nèi)容平臺(tái)的信息安全，不僅僅信息的發(fā)布者要承擔(dān)責(zé)任，平臺(tái)也同樣需要對(duì)內(nèi)容風(fēng)控負(fù)責(zé)。
seo博客相關(guān)推薦閱讀：seo優(yōu)化推廣：鄂州seo優(yōu)化技術(shù)(鄂州優(yōu)化辦)
對(duì)于很多內(nèi)容平臺(tái)來說，既然內(nèi)容審查成為逃避不掉的責(zé)任，那么如何利用機(jī)器審核和人工相配合，如何權(quán)衡效率和成本，就成為各大平臺(tái)亟需想明白的問題。
01
內(nèi)容風(fēng)控策略的核心要點(diǎn)是什么？
對(duì)于一款產(chǎn)品來說，其基本業(yè)務(wù)框架的抽象模型可以總結(jié)為“業(yè)務(wù)”、輔助業(yè)務(wù)的“增長”、保障業(yè)務(wù)的“風(fēng)控”和支撐以上三點(diǎn)的“數(shù)據(jù)”。
“業(yè)務(wù)”自然是產(chǎn)品最關(guān)鍵的地方，“增長”“風(fēng)控”和“數(shù)據(jù)”都是輔助業(yè)務(wù)良態(tài)運(yùn)行。對(duì)內(nèi)容平臺(tái)的業(yè)務(wù)來說，協(xié)調(diào)內(nèi)容生產(chǎn)者和內(nèi)容消費(fèi)者，形成良好的內(nèi)容生態(tài)是關(guān)鍵的核心，輔以用戶增長（包括用戶增長和創(chuàng)作者增長兩個(gè)方面），并且對(duì)社區(qū)進(jìn)行風(fēng)控。
通過業(yè)務(wù)的發(fā)展和增長、風(fēng)控的積累，形成用戶基礎(chǔ)數(shù)據(jù)、注冊(cè)信息、瀏覽行為、視覺偏好、用戶標(biāo)簽等數(shù)據(jù)，然后通過這些數(shù)據(jù)，再反向支撐業(yè)務(wù)發(fā)展，形成產(chǎn)品內(nèi)的數(shù)據(jù)打通。
本文所要著重分析的，就是風(fēng)控這一環(huán)節(jié)。金融產(chǎn)品、信貸產(chǎn)品有風(fēng)控非常好理解，但其實(shí)，所有類型的產(chǎn)品都需要有風(fēng)控。電商產(chǎn)品要防薅羊毛，社交產(chǎn)品要防欺詐，而內(nèi)容產(chǎn)品，則是要對(duì)平臺(tái)內(nèi)容的質(zhì)量和合規(guī)性進(jìn)行風(fēng)險(xiǎn)控制。
對(duì)于內(nèi)容社區(qū)等UGC產(chǎn)品來說，風(fēng)控線就是生死線。內(nèi)容和社區(qū)產(chǎn)品的風(fēng)控壓力來源于監(jiān)管側(cè)，風(fēng)控對(duì)象是用戶在平臺(tái)發(fā)布的內(nèi)容。
02
內(nèi)容風(fēng)控要“控”什么？
來自內(nèi)容側(cè)的風(fēng)險(xiǎn)主要有三類。
其一是政策層面的內(nèi)容合規(guī)，要符合監(jiān)管的要求。監(jiān)管要求的內(nèi)容可參考最新實(shí)行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，對(duì)于各項(xiàng)違規(guī)內(nèi)容都做了詳細(xì)規(guī)定，大致概括可分為涉政、違禁、暴恐、色情等四類，這部分是政策紅線，一旦觸及，輕則約談，重則下架、封禁。
其二是社區(qū)氛圍的良性導(dǎo)向，如謾罵、隱私等。這一類型的內(nèi)容雖然不會(huì)觸及監(jiān)管紅線，但倘若內(nèi)容社區(qū)充斥各種負(fù)能量，對(duì)于社區(qū)氛圍是非常嚴(yán)重的損害，傷及用戶體驗(yàn)，導(dǎo)致用戶流失，影響產(chǎn)品商業(yè)利益。這一類型內(nèi)容風(fēng)控還包括對(duì)于產(chǎn)品運(yùn)營主體的保護(hù)，例如對(duì)吐槽公司工作人員的內(nèi)容進(jìn)行限流處理、對(duì)平臺(tái)和產(chǎn)品的詛咒進(jìn)行刪除等，屬于商譽(yù)和公關(guān)層面的維護(hù)，同時(shí)也是對(duì)產(chǎn)品官方公信力的維護(hù)。
其三是社區(qū)用戶安全的保證。對(duì)于內(nèi)容和社區(qū)產(chǎn)品而言，平臺(tái)內(nèi)一定會(huì)存在導(dǎo)流、灰產(chǎn)、詐騙等不法手段，如何保護(hù)平臺(tái)內(nèi)用戶的財(cái)產(chǎn)安全和產(chǎn)品體驗(yàn)，是非常關(guān)鍵的，互找seo排名高手聯(lián)網(wǎng)發(fā)展至今，導(dǎo)流、詐騙等行為往往是成熟的灰黑產(chǎn)產(chǎn)業(yè)鏈所為，他們擁有豐富的反監(jiān)查和防過濾經(jīng)驗(yàn)，揪出他們并進(jìn)行處理，需要平臺(tái)與其斗智斗勇。
03
內(nèi)容風(fēng)控的方法和手段
在最早期的階段，對(duì)內(nèi)容進(jìn)行風(fēng)險(xiǎn)控制，只能通過編輯人工進(jìn)行審核。這種方式需要大量的人力物力，而且稿件審核需要時(shí)間長，時(shí)效性也被大大削弱。一般的公司，很難負(fù)擔(dān)起龐大的內(nèi)容審核團(tuán)隊(duì)。
之后，誕生了關(guān)鍵詞過濾等手段，成為成本較低，并且使用最為廣泛的內(nèi)容風(fēng)控措施。對(duì)于命中預(yù)設(shè)的違禁關(guān)鍵詞的內(nèi)容，直接阻止發(fā)出或者轉(zhuǎn)交人工審核。這種方式性價(jià)比極高，耗費(fèi)成本小，但基本可以過濾掉大多數(shù)的違規(guī)內(nèi)容。
關(guān)鍵詞過濾存在的問題也很明顯，準(zhǔn)確率較低，經(jīng)常出現(xiàn)誤傷和漏網(wǎng)的情況，對(duì)于內(nèi)容和社區(qū)平臺(tái)來說，這是不能容忍的，前文已經(jīng)講過，哪怕一篇違規(guī)內(nèi)容被放出來，產(chǎn)品都有可能被封禁。再加上網(wǎng)絡(luò)的普及，越來越多的人學(xué)會(huì)了通過拼音、亂碼、諧音等方式繞開關(guān)鍵詞，關(guān)鍵詞過濾逐漸不再能勝任內(nèi)容風(fēng)控的工作任務(wù)。
以上基本還屬于規(guī)則的范疇，之后內(nèi)容風(fēng)控的發(fā)展，就進(jìn)入了AI+策略的時(shí)代。
AI方面，其實(shí)叫機(jī)器學(xué)習(xí)更加準(zhǔn)確，這是一套組合拳。舉個(gè)例子，對(duì)于一個(gè)視頻稿件的審核，就需要對(duì)整個(gè)視頻進(jìn)行逐一拆幀，然后通過OCR文字識(shí)別檢查字幕，此時(shí)對(duì)于字幕的檢查和文字內(nèi)容的檢查基本一致，文字識(shí)別涉及到NLP分詞、語義理解等AI技術(shù)；對(duì)于畫面，則是圖片識(shí)別，識(shí)別圖片中可能出現(xiàn)的違禁內(nèi)容，這里涉及到一個(gè)準(zhǔn)確率的問題，暴恐視頻不能夠通過，但游戲視頻也存在戰(zhàn)斗畫面，如何保證不誤傷；對(duì)于音頻，則需要兩個(gè)方面的審查，一方面是視頻當(dāng)中的語句，將語音轉(zhuǎn)文本，再通過文字的審核策略來審核，另一方面是音調(diào)識(shí)別，例如識(shí)別音頻當(dāng)中的嬌喘等無語句的聲音。
機(jī)器學(xué)習(xí)還是就稿件論稿件，而一個(gè)優(yōu)秀的內(nèi)容風(fēng)控平臺(tái)，是需要配合策略的。風(fēng)控策略產(chǎn)品經(jīng)理是近幾年一個(gè)特別火的崗位，提供更精細(xì)化的、動(dòng)態(tài)的、效率的產(chǎn)品風(fēng)控解決方案。對(duì)于策略來說，內(nèi)容的風(fēng)控不能只在單個(gè)內(nèi)容上，還需要結(jié)合更高的維度，給予更加精細(xì)化的識(shí)別判斷。策略要從單個(gè)內(nèi)容出發(fā)，延伸到發(fā)布該內(nèi)容的用戶基礎(chǔ)信息、關(guān)系鏈、過往內(nèi)容、實(shí)名可信度等等諸多維度進(jìn)行調(diào)參和計(jì)算，以判斷這名用戶的這條內(nèi)容是否需要更細(xì)致的識(shí)別。
這里要特別強(qiáng)調(diào)一點(diǎn)，即使平臺(tái)的機(jī)器算法再先進(jìn)，所有的內(nèi)容還都需要過人審核。所有內(nèi)容過人，所有內(nèi)容過人，所有內(nèi)容過人，重要的事情說三遍，至于原因，還是上面那一條，內(nèi)容和社區(qū)平臺(tái)不容有半點(diǎn)閃失。
不過機(jī)器平臺(tái)越先進(jìn)，能夠?yàn)槿斯徍颂峁┑妮o助也就越全面準(zhǔn)確，人工審核的效率自然也就變高，審核人員的壓力也相應(yīng)減弱。
另外，對(duì)于內(nèi)容風(fēng)控，又會(huì)有前置風(fēng)控（先審后發(fā)）和后置風(fēng)控（先發(fā)后審）等不同的方式，關(guān)于這一點(diǎn)，以后有機(jī)會(huì)再詳細(xì)分析優(yōu)劣和適用場(chǎng)景。
對(duì)于各大內(nèi)容平臺(tái)來說，隨著內(nèi)容量越來越大，單純的對(duì)審核人工進(jìn)行擴(kuò)容，恐難以解決問題。相對(duì)來說，字節(jié)跳動(dòng)旗下的抖音、今日頭條、西瓜視頻等，背靠百度AI的愛奇藝、好看視頻、百家號(hào)，騰訊旗下的微信公眾號(hào)、視頻號(hào)、騰訊視頻等，成立時(shí)間久，技術(shù)儲(chǔ)備強(qiáng)，內(nèi)容風(fēng)控團(tuán)隊(duì)完善，就大規(guī)模進(jìn)入機(jī)器審核系統(tǒng)，在利用機(jī)器算法進(jìn)行內(nèi)容審查方面，有更多的經(jīng)驗(yàn)和技術(shù)儲(chǔ)備。
而新興的內(nèi)容平臺(tái)，比如B站、小紅書崛起晚、資源少、技術(shù)儲(chǔ)備弱，在機(jī)器輔助審核上還比較弱勢(shì)，今后加強(qiáng)內(nèi)容風(fēng)控技術(shù)，優(yōu)化內(nèi)容審核策略，改善審核后臺(tái)的體驗(yàn)，不失為一個(gè)好方法，畢竟工欲善其事，必先利其器。
無論如何，內(nèi)容風(fēng)控的核心意義，是保障業(yè)務(wù)平穩(wěn)安全運(yùn)行，并且在反對(duì)“真正的惡”上發(fā)揮自己的力量。對(duì)于暴力、色情等違法犯罪內(nèi)容，必須嚴(yán)懲不貸，但對(duì)于呼聲正常表達(dá)的內(nèi)容，則應(yīng)當(dāng)用更多元的視角去評(píng)析論證，而不能直接采用機(jī)器算法一刀切。
技術(shù)是中立的，但技術(shù)背后的人必須有立場(chǎng)
以上是潮人地東莞seo博客跟大家分享關(guān)于seo技術(shù)：如何從產(chǎn)品經(jīng)理的角度分析產(chǎn)品(產(chǎn)品經(jīng)理視角看內(nèi)容審查與風(fēng)控策略)內(nèi)江seo排名等問題，希望能對(duì)大家有所幫助，若有不足之處，請(qǐng)諒解，我們大家可以一起討論關(guān)于網(wǎng)站seo優(yōu)化排名的技巧，一起學(xué)習(xí)，以上內(nèi)容僅供參考。
