真實案例
2024年8月，一則令人震驚的消息在網絡上迅速傳播。“南平松溪縣遭遇嚴重大風襲擊，造成棗嶺街一人死亡”。這則消息圖文并茂，甚至還有逼真的視頻片段，一時間引得大量網民關注和轉發。但經公安機關核查發現，這竟然是用 AI編造而成的網絡謠言視頻。
經查，該謠言系發布者周某為博取關注、獲取流量，通過AI軟件生成的。周某對圖片和視頻剪輯拼湊后，制造出“有圖片”“有文字”“有聲音”的虛假信息，發布至網絡平臺上，造成社會不良影響。
公安機關依法對周某給予行政處罰。
案例分析
造謠者利用AI低成本、高效率、操作簡單的特點，通過提供關鍵字，AI軟件便會自動在網絡上抓取相關信息，以熱點新聞和隨機網絡音視頻為素材，批量化生產網絡謠言，投放到各大網絡平臺上，實現吸引眼球或流量變現的目的。謠言的傳播率和影響力成倍增加。
當謠言披上AI的外衣時，不但能自動生成文本，還能生成逼近真實的圖片和音視頻，讓不存在的場景變得栩栩如生，讓虛構的人物仿佛真實存在一般。這就完全顛覆了我們常規認知里的“有圖就有真相”，使我們對網絡謠言本身難辨其真假。
AI謠言已經成為亟需治理的一道網絡新課題，那么在日常生活中，我們怎樣擦亮眼睛，識別并抵制AI謠言呢？
01
好奇之心要適度：面對新奇夸張的信息，先別急著一探究竟，AI就是選擇、抓取大家關注話題來制造網絡謠言，利用網民好奇心進行傳播。
02
來源不明不輕信：切記不要盲目相信和傳播未經證實的信息。在社交媒體或網絡上看到可疑信息時，可以先進行核實或者等待官方消息發布后再做判斷。
03
權威渠道常關注：在上網瀏覽信息時要保持對信息來源的警惕性，多訂閱官方媒體、政府部門的賬號，盡量選擇權威、可信賴的媒體或機構作為信息來源。
04
邏輯分析不可少：注意網絡信息的邏輯性，如果發現一條信息在邏輯上存在明顯的漏洞或矛盾，它很可能是經過篡改或杜撰的。
來源：公安部網安局