“完善生成式人工智能發(fā)展和管理機(jī)制。加強(qiáng)網(wǎng)絡(luò)空間法治建設(shè)，健全網(wǎng)絡(luò)生態(tài)治理長效機(jī)制，健全未成年人網(wǎng)絡(luò)保護(hù)工作體系?！秉h的二十屆三中全會通過的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化的決定》對健全網(wǎng)絡(luò)綜合治理體系作出系統(tǒng)部署。

當(dāng)前，我國網(wǎng)絡(luò)治理日趨系統(tǒng)和精細(xì)。2024年，監(jiān)管部門錨定人工智能治理、網(wǎng)絡(luò)暴力等內(nèi)容治理、網(wǎng)絡(luò)平臺算法治理、電信網(wǎng)絡(luò)詐騙治理四大重要著力點(diǎn)，推動網(wǎng)絡(luò)生態(tài)治理取得顯著進(jìn)展，有效預(yù)防和遏制網(wǎng)絡(luò)違法犯罪。

人工智能治理

2024年，人工智能（AI）賽道火熱依舊。

相較于2023年AI大模型之間的百“模”大戰(zhàn)，過去一年，我們能真切感受到AI應(yīng)用開始深入我們生活的方方面面：生成式人工智能被用于文本、圖像、音視頻創(chuàng)作；自動駕駛在全球多個城市落地；AI機(jī)器人被投入各行各業(yè)……

人工智能釋放技術(shù)價值紅利的同時，帶來復(fù)雜風(fēng)險(xiǎn)挑戰(zhàn)，如何平衡發(fā)展與安全已成為構(gòu)建人類命運(yùn)共同體的重大課題。2024年，與AI應(yīng)用廣泛落地相伴隨的是，全球加快推進(jìn)人工智能治理與監(jiān)管，我國亦不例外。

生成式人工智能的廣泛應(yīng)用，使得如“AI換臉”等濫用“深度偽造”技術(shù)的事件頻頻上演，在帶來安全倫理爭議的同時，也存在侵犯人身權(quán)、知識產(chǎn)權(quán)等法律風(fēng)險(xiǎn)。

2024年2月，廣州互聯(lián)網(wǎng)法院宣判全球首例生成式人工智能服務(wù)侵犯他人著作權(quán)案；同年4月，北京互聯(lián)網(wǎng)法院審理的全國首例AI生成聲音人格權(quán)侵權(quán)案一審宣判，認(rèn)定在具備可識別性的前提下，自然人聲音權(quán)益保護(hù)范圍可及于AI生成聲音；6月，北京互聯(lián)網(wǎng)法院審理的國內(nèi)首例“AI文生圖”著作權(quán)案入選2024中國數(shù)字經(jīng)濟(jì)發(fā)展與法治建設(shè)十個重大影響力事件。

同年9月，國家網(wǎng)信辦公布了《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》以及配套強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法（征求意見稿）》，擬全方位、多層次地規(guī)范人工智能內(nèi)容標(biāo)識要求和方法。12月，廣電總局網(wǎng)絡(luò)視聽司發(fā)布《管理提示(AI魔改)》，對“AI魔改視頻”出手管理。

與此同時，據(jù)《法治周末》記者不完全統(tǒng)計(jì)，2024年間，至少有北京、廣東、江蘇、四川等11個省區(qū)市出臺人工智能相關(guān)產(chǎn)業(yè)行動計(jì)劃或措施文件。

這一年，世界范圍內(nèi)，各主要經(jīng)濟(jì)體醞釀多年的人工智能立法實(shí)踐陸續(xù)進(jìn)入成熟期。已成為人工智能大國的中國，也在積極參與制定全球人工智能“游戲規(guī)則”。

2024年5月，中美人工智能政府間對話首次會議舉行；同月，《中華人民共和國和法蘭西共和國關(guān)于人工智能和全球治理的聯(lián)合聲明》發(fā)布；7月1日，第78屆聯(lián)合國大會協(xié)商一致通過中國主提的加強(qiáng)人工智能能力建設(shè)國際合作決議，140多個國家參加決議聯(lián)署；3天后，《人工智能全球治理上海宣言》發(fā)表，倡導(dǎo)建立全球范圍內(nèi)的人工智能治理機(jī)制。

網(wǎng)絡(luò)暴力等內(nèi)容治理

除了人工智能治理，2024年的網(wǎng)絡(luò)生態(tài)治理，互聯(lián)網(wǎng)信息內(nèi)容治理仍是重要的一環(huán)。其中，包括網(wǎng)絡(luò)暴力、自媒體、直播、網(wǎng)絡(luò)語言等多個方面。

2024年3月，最高人民法院工作報(bào)告提出，從嚴(yán)懲治網(wǎng)絡(luò)暴力。針對網(wǎng)絡(luò)暴力“按鍵傷人”“按鍵殺人”，嚴(yán)重?cái)_亂社會秩序，會同最高人民檢察院、公安部出臺司法政策，嚴(yán)懲網(wǎng)暴惡意發(fā)起者、組織者及屢教不改者。

同年6月，國家網(wǎng)信辦、公安部、文化和旅游部、廣電總局公布《網(wǎng)絡(luò)暴力信息治理規(guī)定》（以下簡稱《規(guī)定》）?！兑?guī)定》作為我國首部反網(wǎng)絡(luò)暴力的專門部門規(guī)章，標(biāo)志著我國網(wǎng)絡(luò)暴力治理法規(guī)制度體系建設(shè)取得新的重要進(jìn)展，網(wǎng)絡(luò)暴力治理法治基石進(jìn)一步筑牢夯實(shí)。

2024年12月28日，由《澎湃新聞》牽頭發(fā)起、上海市委網(wǎng)信辦指導(dǎo)成立的“數(shù)字內(nèi)容生態(tài)實(shí)驗(yàn)室”發(fā)布的《反網(wǎng)絡(luò)暴力研究報(bào)告》指出，網(wǎng)絡(luò)暴力的形式正在不斷翻新，主要包括“編造散播謠言”“挑動對立歧視”“侵犯公民隱私”“破壞營商環(huán)境”等方面，嚴(yán)重破壞了網(wǎng)絡(luò)秩序和生態(tài)。

記者通過中央網(wǎng)信辦舉報(bào)中心透露的數(shù)據(jù)統(tǒng)計(jì)發(fā)現(xiàn)，去年1月至11月間，全國受理色情、賭博、侵權(quán)、謠言等違法和不良信息約2.09萬件，而2023年全年受理網(wǎng)絡(luò)違法和不良信息舉報(bào)為2.06萬件。

而這些違法和不良信息就是互聯(lián)網(wǎng)內(nèi)容生態(tài)治理的對象，中央網(wǎng)信辦部署的2024年“清朗”系列專項(xiàng)行動也從多維度對這些內(nèi)容進(jìn)行了治理。

自2024年1月開始，“清朗·2024年春節(jié)網(wǎng)絡(luò)環(huán)境整治”“清朗·優(yōu)化營商網(wǎng)絡(luò)環(huán)境——整治涉企侵權(quán)信息亂象”“清朗·整治‘自媒體’無底線博流量”“清朗·打擊違法信息外鏈”“清朗·網(wǎng)絡(luò)直播領(lǐng)域虛假和低俗亂象整治”“清朗·規(guī)范網(wǎng)絡(luò)語言文字使用”“清朗·同城版塊信息內(nèi)容問題整治”等多個專項(xiàng)行動，陸續(xù)展開。

與此同時，QQ、微博、抖音等多個平臺也在加強(qiáng)自治。以QQ為例，平臺對相關(guān)違規(guī)內(nèi)容進(jìn)行常態(tài)化治理，2024年第四季度累計(jì)處置涉未成年人風(fēng)險(xiǎn)賬號超3000個、涉未成年人不良內(nèi)容4.7萬余條；并從源頭上遏制“網(wǎng)絡(luò)水軍”的活動空間，第四季度平臺處置網(wǎng)絡(luò)水軍相關(guān)違規(guī)內(nèi)容超4.7萬條，封禁2974個違規(guī)賬號和3003個違規(guī)群組。

網(wǎng)絡(luò)平臺算法治理

無論是人工智能帶來的亂象，還是網(wǎng)絡(luò)違法不良信息內(nèi)容，那都是網(wǎng)民們看得見的表象。其呈現(xiàn)的背后都離不開一個詞——算法，算法塑造著當(dāng)下的互聯(lián)網(wǎng)世界。

“算法是一把‘有善有惡’的‘雙刃劍’，要看人怎么用，但是人性和商業(yè)的準(zhǔn)則，往往會共同把它推向惡的一邊。在這樣的情況下，每個人都無法躲避?！?024年12月22日，在浙江大學(xué)城市學(xué)院舉行的“2024中國視頻節(jié)目年度掌聲·噓聲”發(fā)布活動現(xiàn)場，中央廣播電視總臺主持人白巖松表示。這場活動上，年度唯一的“噓聲”指向了“算法亂象”。

而在一個多月前，同年11月20日，農(nóng)夫山泉董事長鐘睒睒公開指責(zé)平臺在算法流量管理方面的不作為，導(dǎo)致了他本人和他的企業(yè)受到了無端攻擊。正是在這一個月，一場針對網(wǎng)絡(luò)平臺算法的治理行動拉開了序幕。

中央網(wǎng)信辦秘書局等四部門聯(lián)合印發(fā)通知，為進(jìn)一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理，自2024年11月12日起至2025年2月14日開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動，矛頭直指同質(zhì)化推送營造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)、盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益、利用算法實(shí)施大數(shù)據(jù)“殺熟”、算法向上向善服務(wù)缺失侵害用戶合法權(quán)益等現(xiàn)實(shí)問題。

在中國法學(xué)會副會長姜偉看來，網(wǎng)絡(luò)平臺的算法亂象直接損害網(wǎng)民權(quán)益。“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動主題明確，具有鮮明的價值取向、鮮明的政策導(dǎo)向與鮮明的問題靶向。

專項(xiàng)行動展開后，北京、上海、廣東等地紛紛開設(shè)相關(guān)線索舉報(bào)渠道。近期，上海市委網(wǎng)信辦聯(lián)合相關(guān)部門召開算法治理合規(guī)指導(dǎo)會，對嗶哩嗶哩、小紅書、拼多多、攜程、餓了么等100余家上海屬地網(wǎng)站平臺開展行政指導(dǎo)和普法培訓(xùn)。

而企業(yè)的自查自糾工作也在進(jìn)行，2024年12月27日，美團(tuán)發(fā)布公告稱，針對平臺算法典型問題，近期擬采取以下八項(xiàng)改進(jìn)舉措，如推進(jìn)算法公開常態(tài)化等。

電信網(wǎng)絡(luò)詐騙治理

推動良好的網(wǎng)絡(luò)生態(tài)，離不開對網(wǎng)絡(luò)犯罪的依法懲治和有效預(yù)防，而打擊電信網(wǎng)絡(luò)詐騙犯罪一直是近年來的治理難點(diǎn)和重點(diǎn)。

2024年以來，公安部等相關(guān)部門保持對電信網(wǎng)絡(luò)詐騙犯罪的高壓態(tài)勢，統(tǒng)籌推進(jìn)打防管控建各項(xiàng)措施，打擊治理工作取得明顯成效，電信網(wǎng)絡(luò)詐騙犯罪上升勢頭得到有效遏制。據(jù)最高檢、公安部透露的數(shù)據(jù)，僅2024年1月至10月，共緊急止付群眾被騙資金2359億元，使眾多受害群眾免受重大經(jīng)濟(jì)損失。

2024年12月30日，浙江省溫州市人民檢察院經(jīng)依法審查，對緬北果敢明家犯罪集團(tuán)成員及關(guān)聯(lián)犯罪集團(tuán)成員明國平、明珍珍等39人，依法提起公訴。而這只是相關(guān)部門持續(xù)對跨境電信網(wǎng)絡(luò)詐騙進(jìn)行打擊的一個縮影。

同年1月，中緬聯(lián)合打擊跨國電信網(wǎng)絡(luò)詐騙犯罪取得標(biāo)志性重大戰(zhàn)果，白所成等10名緬北重大犯罪嫌疑人被成功押解回國；4月，中老警方聯(lián)合打擊跨境犯罪，250名實(shí)施跨境裸聊敲詐和電信網(wǎng)絡(luò)詐騙的犯罪嫌疑人被移交我國警方；11月，中柬警方年內(nèi)第二次開展包機(jī)押解遣返聯(lián)合行動。

而在2024年6月，最高法、最高檢、公安部發(fā)布《關(guān)于辦理跨境電信網(wǎng)絡(luò)詐騙等刑事案件適用法律若干問題的意見》，為依法嚴(yán)厲打擊跨境電信網(wǎng)絡(luò)詐騙等犯罪提供了指導(dǎo)。7月，“兩高一部”發(fā)布依法懲治跨境電信網(wǎng)絡(luò)詐騙及其關(guān)聯(lián)犯罪典型案例；12月，最高檢、公安部聯(lián)合掛牌督辦第四批8起特大跨境電信網(wǎng)絡(luò)詐騙犯罪案件。

2024年12月1日，正值反電信網(wǎng)絡(luò)詐騙法施行兩周年。就在這一天，公安部等4部門聯(lián)合印發(fā)的《電信網(wǎng)絡(luò)詐騙及其關(guān)聯(lián)違法犯罪聯(lián)合懲戒辦法》施行，為打擊治理涉詐黑灰產(chǎn)犯罪提供有效的懲戒手段和政策依據(jù)，電信網(wǎng)絡(luò)詐騙犯罪的打擊治理法律體系進(jìn)一步完善。