央廣網科技6月24日消息 6月23-24日，知乎舉辦了一場“陰陽怪氣”主題書法展，現場知乎社區(qū)治理團隊首次亮相，分享了知乎在識別陰陽怪氣類內容上的探索。知乎借助AI技術，并輔以人機結合和多元的產品舉措，多重手段加強對社區(qū)氛圍的維護。據悉，現階段知乎已實現對95%以上的違法違規(guī)、廣告導流和不友善等內容的主動打擊、覆蓋和篩查 。
在知乎看來，陰陽怪氣通常以“不針對發(fā)言內容，而是批評對方的語氣”以及“提出反對意見，但不給或給出極少數論據支持”這兩類常見言論為代表，此類評論極大了傷害創(chuàng)作者和交流者的體驗，但難以解決。
解決陰陽怪氣類評論的難點核心主要在于網絡語言的復雜性，情感分析不同于普通文本分析。由于雙方不同關系、說話的不同場景和時間都會帶來迥然不同的表意。即便是人工判定都存在標準化難度，算法模型的訓練挑戰(zhàn)就更為艱辛。
知乎運營總監(jiān)孫達云、內容質量管理團隊技術負責人劉兆來分別從運營、技術角度，對知乎在構建良性社區(qū)氛圍上所做的努力進行了闡述。在過去一年里，知乎不斷優(yōu)化算法機器人“瓦力”，著力挑戰(zhàn)識別陰陽怪氣這一情感分析領域的傳統難題，通過綜合使用情感模型、用戶親密度模型和文本識別模型，其識別準確率得以大幅優(yōu)化，已超過大部分人工判斷。
針對陰陽怪氣評論通常表達負面情感的特點，知乎構建了內容情感傾向性識別的算法模型和識別用戶親密度的模型，并通過訓練不斷迭代完善。此外，針對陰陽怪氣評論的典型特征，知乎建立了文本識別模型不斷標記訓練樣本。三大模型的結合，不僅擺脫單一算法模型的局限性，也讓“瓦力”的陰陽怪氣識別準確率超過了大多數人工判斷。
據了解，知乎還將在近期對該技術進行產品化嘗試，向用戶提供“瓦力”陰陽怪氣智能過濾選項，同時，還將對“瓦力”進行更多訓練，不斷提升準確率和召回率，最終將陰陽怪氣識別技術全面應用到社區(qū)治理中。
知乎不斷在社區(qū)治理方面加大AI技術投入，通過陰陽怪氣評論的治理，探索了一條優(yōu)化互聯網社交禮儀的創(chuàng)新之路。對于飽受網絡暴力困擾的用戶而言，陰陽怪氣識別技術能夠讓用戶更舒適地參與網絡討論。
