每當(dāng)有災(zāi)情出現(xiàn)的時(shí)候，每一秒都是生命競速，每一條信息都牽動(dòng)人心，但有人卻把災(zāi)難當(dāng)“流量劇本”，用AI工具偽造廢墟畫面、合成夸張災(zāi)情、編造虛假案情，讓人難辨真?zhèn)?，浪費(fèi)公共資源，更會(huì)透支社會(huì)信任。

近日，重慶市公安機(jī)關(guān)就依法處置了一起網(wǎng)民利用AI技術(shù)編造散布虛假災(zāi)情的案件。

拆穿利用AI編造散播涉及災(zāi)情謠言的套路

今年11月，重慶市銅梁區(qū)公安局網(wǎng)安支隊(duì)民警在網(wǎng)絡(luò)巡查中發(fā)現(xiàn)，轄區(qū)網(wǎng)民何某在互聯(lián)網(wǎng)平臺(tái)上發(fā)布了一段標(biāo)注“銅梁遭遇暴雨災(zāi)情”的視頻，視頻中宣稱當(dāng)?shù)亍坝譂q水了”“多個(gè)鄉(xiāng)鎮(zhèn)被水淹”等信息，引發(fā)網(wǎng)友關(guān)注熱議。

經(jīng)公安機(jī)關(guān)核查后確認(rèn)，該視頻為虛假信息，與當(dāng)?shù)貙?shí)際情況嚴(yán)重不符。

違法嫌疑人 何某：他們之前發(fā)的漲洪水了的視頻，我就轉(zhuǎn)載下來，剪輯一下，發(fā)到社交媒體里面去。

重慶市銅梁區(qū)公安局網(wǎng)絡(luò)安全保衛(wèi)支隊(duì)民警 梁哲好：經(jīng)網(wǎng)上取證，違法嫌疑人何某在社交媒體上搜索洪水、暴雨、臺(tái)風(fēng)等相關(guān)視頻，再利用AI軟件一鍵生成，AI軟件自動(dòng)抓取了不同地方、不同時(shí)期的災(zāi)情視頻，合成了一個(gè)新視頻，實(shí)際上當(dāng)?shù)夭]有發(fā)生相關(guān)災(zāi)情。

經(jīng)查，違法嫌疑人何某為提升自身社交媒體賬號(hào)知名度、博取流量，多次利用AI技術(shù)編造嫁接災(zāi)情內(nèi)容并在網(wǎng)上發(fā)布。

今年9月，臺(tái)風(fēng)“樺加沙”登陸我國期間，何某就曾發(fā)布過重慶遭受臺(tái)風(fēng)影響的虛假視頻，已被警方批評(píng)教育過。

日前，重慶銅梁區(qū)公安局已依法對(duì)何某作出行政處罰，并開展法治宣傳教育。何某已主動(dòng)刪除全部不實(shí)信息。

利用AI編造災(zāi)情 涉案人員被查處

借助AI技術(shù)編造災(zāi)情的案例并非孤例。事實(shí)上，在近年來警方查處的多起造謠案件當(dāng)中，我們越來越多看到有AI技術(shù)參與的影子，這些虛假信息在網(wǎng)絡(luò)中廣泛傳播，造成不良影響。有造謠者也因此承擔(dān)了法律責(zé)任。

山西省互聯(lián)網(wǎng)應(yīng)急指揮和舉報(bào)中心發(fā)布消息，有網(wǎng)民發(fā)布“大同半夜3點(diǎn)發(fā)生地震了，人們都出來避難”的視頻內(nèi)容。后經(jīng)向山西省地震局核實(shí)，近期大同凌晨3點(diǎn)鐘并未發(fā)生過地震。網(wǎng)絡(luò)傳言為不實(shí)信息。

今年6月，一段關(guān)于“山西懸空寺部分建筑物坍塌”的視頻在網(wǎng)絡(luò)上傳播，引發(fā)公眾關(guān)注和擔(dān)憂。后經(jīng)當(dāng)?shù)鼐秸{(diào)查發(fā)現(xiàn)，這是一條由三名外地網(wǎng)民利用AI技術(shù)編造的虛假視頻，目的同樣是為了吸引流量，博人眼球。

根據(jù)相關(guān)法律法規(guī)，當(dāng)?shù)鼐綄?duì)其中情節(jié)嚴(yán)重的兩人作出行政處罰，對(duì)另一人進(jìn)行批評(píng)教育。

用AI編造虛假災(zāi)情違反我國多項(xiàng)法律法規(guī)

網(wǎng)民濫用AI工具編造虛假災(zāi)情、擾亂公共秩序等行為，違反了我國多項(xiàng)法律法規(guī)，已成為網(wǎng)信、公安等部門近年來的重點(diǎn)整治對(duì)象。

中國人民大學(xué)紀(jì)檢監(jiān)察學(xué)院教授 林鴻潮：我們國家關(guān)于應(yīng)對(duì)這個(gè)突發(fā)事件，有一個(gè)基本的法律就是《中華人民共和國突發(fā)事件應(yīng)對(duì)法》，它現(xiàn)行的第97條就有規(guī)定說：編造并且傳播有關(guān)突發(fā)事件的虛假信息，或者明知是虛假的突發(fā)事件信息仍進(jìn)行傳播的，是要進(jìn)行處罰，要責(zé)令改正，同時(shí)處以警告，如果是公職人員實(shí)施這個(gè)行為的，還要作出處分。

專家介紹，根據(jù)《中華人民共和國治安管理處罰法》的相關(guān)規(guī)定，散布謠言，謊報(bào)險(xiǎn)情、疫情、警情或者以其他方法故意擾亂公共秩序的，可處五日以上十日以下拘留，并處五百元以下罰款。如果公民散布謠言的情節(jié)嚴(yán)重，觸及《中華人民共和國刑法》的相關(guān)規(guī)定，還將被追究刑事責(zé)任。

AI造謠技術(shù)門檻低

專家呼吁平臺(tái)加強(qiáng)審核

專家表示，技術(shù)的進(jìn)步使得造謠的門檻降低，相關(guān)AI工具平臺(tái)應(yīng)加強(qiáng)內(nèi)容審核，防范虛構(gòu)內(nèi)容以假亂真。

記者在網(wǎng)上搜索發(fā)現(xiàn)，目前市面上不乏一些可免費(fèi)使用的“AI寫作神器”“一鍵制作視頻自動(dòng)生成器”等工具軟件，經(jīng)實(shí)測，只需輸入簡單文字指令，涉及汛情、火災(zāi)等內(nèi)容的仿真文案和視頻就瞬間生成。對(duì)此專家表示，AI生成內(nèi)容的高度逼真性，正在模糊真實(shí)與虛構(gòu)的邊界。

中國人民大學(xué)紀(jì)檢監(jiān)察學(xué)院教授 林鴻潮：突發(fā)事件的虛假信息，尤其是大的災(zāi)害事故，那跟一般的虛假信息還不一樣。它這個(gè)公共性對(duì)社會(huì)心理的這種震動(dòng)等等，那么它會(huì)引起社會(huì)的強(qiáng)烈關(guān)注，所以影響應(yīng)該說是非常惡劣的，如果說任其傳播的話，后果是嚴(yán)重的。

專家介紹，根據(jù)國家互聯(lián)網(wǎng)信息辦公室今年3月印發(fā)，并于9月1日實(shí)施的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求人工智能服務(wù)提供者應(yīng)當(dāng)對(duì)文本、圖片、音頻、視頻等生成合成內(nèi)容，在適當(dāng)位置提供“顯式標(biāo)識(shí)”，以此區(qū)分真實(shí)內(nèi)容。同時(shí)服務(wù)提供者也要為防范打擊相關(guān)違法犯罪活動(dòng)提供支持和幫助。

中國人民大學(xué)紀(jì)檢監(jiān)察學(xué)院教授 林鴻潮：AI工具平臺(tái)一個(gè)是要審核，另外一個(gè)制作需要工具，AI工具里要進(jìn)行一個(gè)技術(shù)設(shè)置，對(duì)能生成什么東西、不能生成什么樣的東西要有負(fù)面的清單，那可能就要有一個(gè)阻止的機(jī)制，或者說要給予提醒，來進(jìn)行警告，這個(gè)工具的提供方是有這方面的責(zé)任的。

應(yīng)急管理部發(fā)布涉災(zāi)謠言陷阱識(shí)別方法

防災(zāi)減災(zāi)救災(zāi)，關(guān)乎人民群眾生命財(cái)產(chǎn)安全。針對(duì)網(wǎng)絡(luò)謠言翻新伎倆，近期，應(yīng)急管理部發(fā)布謠言陷阱的識(shí)別方法，呼吁網(wǎng)民提高對(duì)網(wǎng)上虛假信息的辨別能力，同時(shí)多關(guān)注官方信源，避免情緒化轉(zhuǎn)發(fā)未核實(shí)內(nèi)容。

近日，應(yīng)急管理部發(fā)布了如何辨別典型涉災(zāi)謠言的提示信息，其中特別提到，短視頻中的“AI災(zāi)情”因強(qiáng)烈視覺沖擊力，正成為謠言的重災(zāi)區(qū)，此外還提到了所謂“群聊里的‘內(nèi)部災(zāi)情’”、自媒體“標(biāo)題黨”夸大災(zāi)情、借災(zāi)編造謠言煽動(dòng)情緒、偽造政府部門“緊急通知”等幾類典型謠言陷阱。

應(yīng)急管理部提示，在辨別謠言方面，公眾應(yīng)關(guān)注官方發(fā)布的權(quán)威信息，注意信息發(fā)布時(shí)間與事件發(fā)生時(shí)間是否匹配，注意提及地點(diǎn)出現(xiàn)的場景是否與當(dāng)?shù)刈匀画h(huán)境相符，對(duì)夸張內(nèi)容保持警惕。

應(yīng)急管理部新聞宣傳司網(wǎng)絡(luò)處處長 張婷：針對(duì)災(zāi)害事故網(wǎng)絡(luò)謠言，我們建立了應(yīng)急管理系統(tǒng)、網(wǎng)絡(luò)辟謠聯(lián)動(dòng)機(jī)制，防止災(zāi)害事故謠言傳播擴(kuò)散。也希望廣大網(wǎng)民提高對(duì)虛假信息的辨別能力，尤其要警惕掩蓋掉時(shí)間、地點(diǎn)等關(guān)鍵要素的“標(biāo)題黨”，警惕視覺沖擊力過強(qiáng)、違反常理的所謂現(xiàn)場畫面，警惕編造情節(jié)、以假亂真的AI災(zāi)情。

應(yīng)急管理部提示，針對(duì)涉災(zāi)謠言，公眾應(yīng)做到：不輕信網(wǎng)上虛假信息，不轉(zhuǎn)發(fā)情緒化未核實(shí)內(nèi)容，保持理性不恐慌，同時(shí)不擠占救援通道。不造謠、不信謠、不傳謠，共同營造清朗網(wǎng)絡(luò)空間。