 |
來(lái)源： 人民日報 | 發(fā)文機關(guān)： 省公安廳 |
分享到：
|
網(wǎng)絡(luò )謠言傳播錯誤信息，污染網(wǎng)絡(luò )空間，影響社會(huì )和諧穩定。
一直以來(lái)，公安、網(wǎng)信等部門(mén)把網(wǎng)絡(luò )謠言作為互聯(lián)網(wǎng)整治重點(diǎn)，取得了顯著(zhù)成效。7月15日至7月21日，公安部網(wǎng)絡(luò )安全保衛局在全國范圍內組織開(kāi)展“打擊整治網(wǎng)絡(luò )謠言宣傳周”活動(dòng)，聯(lián)合各界群眾、互聯(lián)網(wǎng)企業(yè)等共筑和諧清朗的網(wǎng)上輿論環(huán)境；近期，針對一些網(wǎng)絡(luò )賬號杜撰、歪解公共政策信息，誤導群眾、從中牟利的情況，中央網(wǎng)信辦指導網(wǎng)站平臺開(kāi)展重點(diǎn)排查整治，堅決打擊造謠傳謠行為，處置違法違規賬號373個(gè)。這些針對網(wǎng)絡(luò )謠言的治理，有力凈化了網(wǎng)絡(luò )空間。
但必須看到，隨著(zhù)人工智能、虛擬現實(shí)等技術(shù)的不斷應用，一些“花色翻新”的網(wǎng)絡(luò )謠言不斷出現，網(wǎng)絡(luò )謠言的分辨難度也變得更大。此前一段內容為“某明星被警方圍捕”的“圖片新聞”就在各平臺廣為傳播，畫(huà)面宛如實(shí)拍，其后被證實(shí)是AI生成的虛假消息。此外，隨著(zhù)短視頻等新興平臺的不斷發(fā)展，用戶(hù)范圍越來(lái)越廣，網(wǎng)絡(luò )謠言的傳播力也越來(lái)越強，造成的不良影響也更加嚴重。
面對這些新問(wèn)題新挑戰，創(chuàng )新治理舉措，讓網(wǎng)絡(luò )謠言治理“道高一丈”，應成為當然之舉、當務(wù)之急。今年1月起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》，明確要求不得利用深度合成服務(wù)制作、復制、發(fā)布、傳播虛假新聞信息，并規定了一系列監管制度。不久前，《生成式人工智能服務(wù)管理暫行辦法》發(fā)布，對治理虛假信息作出明確規定。相關(guān)部門(mén)應在相關(guān)規范的基礎上，不斷完善相應制度以強化治理。例如可以針對網(wǎng)絡(luò )謠言，進(jìn)行專(zhuān)門(mén)的建章立制，推動(dòng)更高效力層級的規范落地實(shí)施。而在執法和打擊層面，有關(guān)方面也應及時(shí)研判新問(wèn)題、總結新經(jīng)驗、完善新舉措，努力把“花色翻新”的網(wǎng)絡(luò )謠言及時(shí)消滅在萌芽狀態(tài)。
網(wǎng)絡(luò )平臺是信息內容管理第一責任人。當前，多數平臺已經(jīng)可以通過(guò)技術(shù)手段識別虛假信息，但對網(wǎng)絡(luò )謠言的標記、查刪有時(shí)并不及時(shí)；有的平臺對“據網(wǎng)傳”“據有關(guān)人士透露”樣式的“擦邊謠言”判定處理不及時(shí)；有的因造謠被封禁賬號“換個(gè)馬甲”上線(xiàn)，平臺有時(shí)無(wú)法及時(shí)察覺(jué)處置。對此，有關(guān)平臺應及時(shí)優(yōu)化措施，改進(jìn)虛假信息判定處置機制，加強對違法違規賬號的身份識別，積極配合執法監管。面對“花色翻新”的網(wǎng)絡(luò )謠言現象，我們要加大治理力度，創(chuàng )新治理方式，提升治理水平，構建規范有序的網(wǎng)絡(luò )環(huán)境，守護好億萬(wàn)網(wǎng)民共同的精神家園。
關(guān)聯(lián)文件：
國家互聯(lián)網(wǎng)信息辦公室
中華人民共和國國家發(fā)展和改革委員會(huì )
中華人民共和國教育部
中華人民共和國科學(xué)技術(shù)部
中華人民共和國工業(yè)和信息化部
中華人民共和國公安部
國家廣播電視總局
令
?第15號
?
《生成式人工智能服務(wù)管理暫行辦法》已經(jīng)2023年5月23日國家互聯(lián)網(wǎng)信息辦公室2023年第12次室務(wù)會(huì )會(huì )議審議通過(guò)，并經(jīng)國家發(fā)展和改革委員會(huì )、教育部、科學(xué)技術(shù)部、工業(yè)和信息化部、公安部、國家廣播電視總局同意，現予公布，自2023年8月15日起施行。
國家互聯(lián)網(wǎng)信息辦公室主任 莊榮文
國家發(fā)展和改革委員會(huì )主任 鄭柵潔
教育部部長(cháng) 懷進(jìn)鵬
科學(xué)技術(shù)部部長(cháng) 王志剛
工業(yè)和信息化部部長(cháng) 金壯龍
公安部部長(cháng) 王小洪
國家廣播電視總局局長(cháng) 曹淑敏
2023年7月10日
?
生成式人工智能服務(wù)管理暫行辦法
?
第一章 總 則
?
第一條?為了促進(jìn)生成式人工智能健康發(fā)展和規范應用，維護國家安全和社會(huì )公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網(wǎng)絡(luò )安全法》、《中華人民共和國數據安全法》、《中華人民共和國個(gè)人信息保護法》、《中華人民共和國科學(xué)技術(shù)進(jìn)步法》等法律、行政法規，制定本辦法。
第二條?利用生成式人工智能技術(shù)向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務(wù)（以下稱(chēng)生成式人工智能服務(wù)），適用本辦法。
國家對利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng )作等活動(dòng)另有規定的，從其規定。
行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關(guān)專(zhuān)業(yè)機構等研發(fā)、應用生成式人工智能技術(shù)，未向境內公眾提供生成式人工智能服務(wù)的，不適用本辦法的規定。
第三條?國家堅持發(fā)展和安全并重、促進(jìn)創(chuàng )新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng )新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級監管。
第四條?提供和使用生成式人工智能服務(wù)，應當遵守法律、行政法規，尊重社會(huì )公德和倫理道德，遵守以下規定：
（一）堅持社會(huì )主義核心價(jià)值觀(guān)，不得生成煽動(dòng)顛覆國家政權、推翻社會(huì )主義制度，危害國家安全和利益、損害國家形象，煽動(dòng)分裂國家、破壞國家統一和社會(huì )穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；
（二）在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務(wù)等過(guò)程中，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；
（三）尊重知識產(chǎn)權、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數據、平臺等優(yōu)勢，實(shí)施壟斷和不正當競爭行為；
（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽(yù)權、榮譽(yù)權、隱私權和個(gè)人信息權益；
（五）基于服務(wù)類(lèi)型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內容的準確性和可靠性。
?
第二章 技術(shù)發(fā)展與治理
?
第五條?鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng )新應用，生成積極健康、向上向善的優(yōu)質(zhì)內容，探索優(yōu)化應用場(chǎng)景，構建應用生態(tài)體系。
支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關(guān)專(zhuān)業(yè)機構等在生成式人工智能技術(shù)創(chuàng )新、數據資源建設、轉化應用、風(fēng)險防范等方面開(kāi)展協(xié)作。
第六條?鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術(shù)的自主創(chuàng )新，平等互利開(kāi)展國際交流與合作，參與生成式人工智能相關(guān)國際規則制定。
推動(dòng)生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動(dòng)公共數據分類(lèi)分級有序開(kāi)放，擴展高質(zhì)量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。
第七條?生成式人工智能服務(wù)提供者（以下稱(chēng)提供者）應當依法開(kāi)展預訓練、優(yōu)化訓練等訓練數據處理活動(dòng)，遵守以下規定：
（一）使用具有合法來(lái)源的數據和基礎模型；
（二）涉及知識產(chǎn)權的，不得侵害他人依法享有的知識產(chǎn)權；
（三）涉及個(gè)人信息的，應當取得個(gè)人同意或者符合法律、行政法規規定的其他情形；
（四）采取有效措施提高訓練數據質(zhì)量，增強訓練數據的真實(shí)性、準確性、客觀(guān)性、多樣性；
（五）《中華人民共和國網(wǎng)絡(luò )安全法》、《中華人民共和國數據安全法》、《中華人民共和國個(gè)人信息保護法》等法律、行政法規的其他有關(guān)規定和有關(guān)主管部門(mén)的相關(guān)監管要求。
第八條?在生成式人工智能技術(shù)研發(fā)過(guò)程中進(jìn)行數據標注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規則；開(kāi)展數據標注質(zhì)量評估，抽樣核驗標注內容的準確性；對標注人員進(jìn)行必要培訓，提升尊法守法意識，監督指導標注人員規范開(kāi)展標注工作。
?
第三章 服務(wù)規范
?
第九條?提供者應當依法承擔網(wǎng)絡(luò )信息內容生產(chǎn)者責任，履行網(wǎng)絡(luò )信息安全義務(wù)。涉及個(gè)人信息的，依法承擔個(gè)人信息處理者責任，履行個(gè)人信息保護義務(wù)。
提供者應當與注冊其服務(wù)的生成式人工智能服務(wù)使用者（以下稱(chēng)使用者）簽訂服務(wù)協(xié)議，明確雙方權利義務(wù)。
第十條?提供者應當明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，指導使用者科學(xué)理性認識和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶(hù)過(guò)度依賴(lài)或者沉迷生成式人工智能服務(wù)。
第十一條?提供者對使用者的輸入信息和使用記錄應當依法履行保護義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。
提供者應當依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復制、更正、補充、刪除其個(gè)人信息等的請求。
第十二條?提供者應當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》對圖片、視頻等生成內容進(jìn)行標識。
第十三條?提供者應當在其服務(wù)過(guò)程中，提供安全、穩定、持續的服務(wù)，保障用戶(hù)正常使用。
第十四條?提供者發(fā)現違法內容的，應當及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓練等措施進(jìn)行整改，并向有關(guān)主管部門(mén)報告。
提供者發(fā)現使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應當依法依約采取警示、限制功能、暫停或者終止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門(mén)報告。
第十五條?提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理公眾投訴舉報并反饋處理結果。
?
第四章 監督檢查和法律責任
?
第十六條?網(wǎng)信、發(fā)展改革、教育、科技、工業(yè)和信息化、公安、廣播電視、新聞出版等部門(mén)，依據各自職責依法加強對生成式人工智能服務(wù)的管理。
國家有關(guān)主管部門(mén)針對生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應用，完善與創(chuàng )新發(fā)展相適應的科學(xué)監管方式，制定相應的分類(lèi)分級監管規則或者指引。
第十七條?提供具有輿論屬性或者社會(huì )動(dòng)員能力的生成式人工智能服務(wù)的，應當按照國家有關(guān)規定開(kāi)展安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》履行算法備案和變更、注銷(xiāo)備案手續。
第十八條?使用者發(fā)現生成式人工智能服務(wù)不符合法律、行政法規和本辦法規定的，有權向有關(guān)主管部門(mén)投訴、舉報。
第十九條?有關(guān)主管部門(mén)依據職責對生成式人工智能服務(wù)開(kāi)展監督檢查，提供者應當依法予以配合，按要求對訓練數據來(lái)源、規模、類(lèi)型、標注規則、算法機制機理等予以說(shuō)明，并提供必要的技術(shù)、數據等支持和協(xié)助。
參與生成式人工智能服務(wù)安全評估和監督檢查的相關(guān)機構和人員對在履行職責中知悉的國家秘密、商業(yè)秘密、個(gè)人隱私和個(gè)人信息應當依法予以保密，不得泄露或者非法向他人提供。
第二十條?對來(lái)源于中華人民共和國境外向境內提供生成式人工智能服務(wù)不符合法律、行政法規和本辦法規定的，國家網(wǎng)信部門(mén)應當通知有關(guān)機構采取技術(shù)措施和其他必要措施予以處置。
第二十一條?提供者違反本辦法規定的，由有關(guān)主管部門(mén)依照《中華人民共和國網(wǎng)絡(luò )安全法》、《中華人民共和國數據安全法》、《中華人民共和國個(gè)人信息保護法》、《中華人民共和國科學(xué)技術(shù)進(jìn)步法》等法律、行政法規的規定予以處罰；法律、行政法規沒(méi)有規定的，由有關(guān)主管部門(mén)依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關(guān)服務(wù)。
構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。
?
第五章 附 則
?
第二十二條?本辦法下列用語(yǔ)的含義是：
（一）生成式人工智能技術(shù)，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關(guān)技術(shù)。
（二）生成式人工智能服務(wù)提供者，是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)（包括通過(guò)提供可編程接口等方式提供生成式人工智能服務(wù)）的組織、個(gè)人。
（三）生成式人工智能服務(wù)使用者，是指使用生成式人工智能服務(wù)生成內容的組織、個(gè)人。
第二十三條?法律、行政法規規定提供生成式人工智能服務(wù)應當取得相關(guān)行政許可的，提供者應當依法取得許可。
外商投資生成式人工智能服務(wù)，應當符合外商投資相關(guān)法律、行政法規的規定。
第二十四條?本辦法自2023年8月15日起施行。
公安備案號46010602000417
