12月27日，抖音發布2024年直播治理報告，全面闡釋抖音直播過去一年的治理理念、技術及最新成果。
報告稱，抖音在過去一年持續迭代主播“健康分”，通過加減分定級定檔的長效管理機制引導主播“向善”，獲得顯著成效。此外，抖音利用AI技術不斷提升治理速度和精度，有效解決風險曝光時長的痛點。升級未成年人保護機制，并積極探索“城市+平臺”治理模式，完善綜合治理體系。抖音直播還配合相關部門打擊黃賭毒詐黑色產業鏈，搗毀百余個犯罪窩點，從源頭消除違法犯罪分子對直播行業的污染，全力維護行業的健康發展。
主播管理精細化運營機構需承擔管理責任
2024年1月3日，抖音直播新版“健康分”管理機制正式生效，該機制是在針對直播間違規內容做單次處罰的基礎上，平臺根據主播日常直播增減賬號“健康分”，并依據分值對賬號分級定檔，對應不同的長效管理措施。這也意味著，抖音的主播管理進入精細化運營階段。
報告介紹，“健康分”低于70的主播，會被減少推薦、限制單日PK次數，甚至限制違規場次收益提現、關閉禮物收入功能等，0分主播則永久回收直播權限。主播的長期表現和收益綁定后，大量主播開始主動修正內容。至2024年底，共有100萬主播被扣除過健康分，76%的低分主播主動調整內容后不再違規，直播間違規率明顯下降。
同時，抖音直播制定了將“主播健康分”與機構進行關聯的管理規則，如主播內容違規，機構需要承擔對應的管理責任，并持續開展機構安全培訓，2024年，機構主播的重復違規率下降10%。
引入音頻審核大模型，強化違規內容治理
直播的魅力在于“所見即所得”，這決定了直播治理的關鍵在于最短時間識別、定位并處置違規直播，盡可能縮短違規內容曝光時長。
抖音直播在原有的AI應用基礎上引入音頻審核大模型，通過大量預訓練，使其逐步掌握直播場景中的常用表達方式，并具備基本的邏輯推理能力，還能在分析文本內容的同時，兼顧環境音、氛圍音等信號特征，感知音頻包含的情緒，輔助判斷語義。AI 技術的深度應用，將有效改善違規內容曝光時長的核心痛點，未來大量風險內容的識別、研判將逐漸由人審處置轉移為機器自動識別 + 處置。
2024 年，隨著 AI 大模型在直播審核、處置上的廣泛應用，抖音直播著重加強對各類違規內容的治理，開展二十余次專項行動，共無限期回收直播權限賬號32萬個，清退直播機構526家。
升級重點人群保護機制探索“城市+平臺”聯動治理模式
同時，抖音也在持續完善綜合治理體系，結合城市、人群特點，探索不同的治理模式。2024年，抖音直播升級未成年人保護機制，推廣“青少年模式”應用。“青少年模式”不提供打賞消費服務，可從源頭阻斷未成年人直播消費，平臺也同步加強對未成年人繞過青少年模式消費等行為的監督。
未經監護人允許的未成年人打賞消費，一經核實，抖音直播將先行全額墊付退賠，平均21小時可完成退款，2024年共幫助9.5萬個未成年人所在家庭快速退款。對于這些退款賬號，平臺將關閉其充值消費功能，預防再次消費。
另一方面，抖音直播在網紅城市爆火的背景下，積極探索“城市+平臺”治理模式。2024年，抖音直播聯動長沙、沈陽等城市的相關部門，結合直播特點針對性建立“快速預防+高效處置”的聯動機制，對反復違規的賬號升級處置力度、對涉及線下違規的行為共同打擊，違規行為大幅減少，并在多部門協同下，與直播機構、主播代表等發起文明直播的行業倡議。
加強與警方配合，嚴厲打擊線下違法犯罪行為
平臺在治理中還發現，大部分嚴重違規的直播間，如低俗色情、詐騙導流等，都來自線下違法甚至犯罪行為，僅靠線上治理無法真正解決問題。即便在單個平臺防范住某個黑產團伙，他們仍可以利用其他平臺進行違法犯罪行為，嚴重阻礙行業健康發展。
在此背景下，過去一年抖音直播成立專項團隊，分級分類摸排違規線索，深入研判賬號信息特征后上報公安機關，并緊密配合相關部門對黑灰產的查處；上線多個針對性內容檢測能力，前置打擊企圖在直播前利用頭像、背景圖、評論等信息進行色情引流的賬號；直播中對暴露色情二維碼等內容實現快速斷播，色情黑產重復違規率減少30%，無限期回收7.4萬個涉色情導流、15萬個涉嫌導流欺詐黑灰產賬號的直播權限。一年來，抖音直播主動向相關部門上報黑產線索300余條，配合公安機關搗毀犯罪窩點100余個，抓捕犯罪嫌疑人361名。
本文轉載自：，不代表科技訊之立場。原文鏈接：http://zl.yisouyifa.com/html/241227/110844303777273.html
