近期,多地公安機關發布了多起利用AI工具實施造謠的相關案件,如發布“西安突發爆炸”虛假新聞的賬號所屬機構,最高峰一天能生成4000至7000篇假新聞,每天收入在1萬元以上,而公司實際控制人王某某經營著5家這樣的機構,運營賬號達842個。專家指出,便利的AI工具大幅降低了造謠的制造成本,提升了謠言的數量級和傳播力。AI造謠呈現出門檻低、批量化、識別難等特點,亟待加強監管,斬斷背后利益鏈條。
AI應用的加速讓很多事情變得更簡單,這里面也包括制造謠言。這不僅是指利用AI造謠,可以實現批量化的謠言信息生產,更是指它往往讓謠言變得更加難以辨認。比如,過去人們堅信“有圖有真相”,但AI技術的普及,讓制圖更容易、更逼真,在很大程度上使得這條規則開始失效了。甚至,除了圖文,配音視頻、換臉后模仿聲音等,這些都可以利用AI產生,在人工進行微調并融入一些真實的內容后,就會變得難以辨別。
更值得注意的是,正是因為AI可幫助內容生產降低門檻并實現大規模操作,這也進一步強化了一些人利用AI制造謠言來牟利的動機。“用AI批量生產爆款文案,突然你就變有錢了”“讓AI幫我寫推廣文,1分鐘搞定3篇”“圖文創作,AI自動寫文章,單號輕松日產500+,可多號操作,小白輕松上手”等“致富”文章廣為流傳,就是一個非常現實的注腳。
所以,總體上,隨著AI應用的愈發普及,人們面對的是一個更加真假難辨的信息環境,并且辟謠的難度也在增大,這的確是一個必須直面的挑戰。
到底如何應對呢?將AI生產出的信息與一般的信息區別開來,以提升公眾的防騙意識,當是重要方式之一。事實上,之前相關部門發布的通知中就明確,要求加強信息來源標注展示;使用AI等技術生成信息的,必須明確標注系技術生成;發布含有虛構、演繹等內容的,必須明確加注虛構標簽。而針對疑似使用AI技術的內容,目前一些平臺已在下方貼上“內容疑似AI生成,請謹慎甄別”的提示。這項工作是很重要的,各信息發布平臺都應該推動這類提示的普及,最大程度上壓縮借AI生產內容渾水摸魚的空間。
另外,也不妨重視“用AI打敗AI,用魔法打敗魔法”。要知道,當各式AI生產內容的“真假”難以分辨,傳播能力增強時,是不是在相應的內容把關及內容傳播機制、流量分發上,也能夠借助AI的力量來強化真實性判斷、提升辟謠的效率,并及時阻斷謠言的傳播呢?隨著AI謠言帶來的破壞性日益顯現,這方面的技術性應對,是時候引起更多的重視了。
當然,回到本質上,通過AI技術來制造謠言,背后的主體依然是人。要扼住這股將AI用偏了的不良風氣,歸根結底還是要加大對背后的始作俑者的懲處力度。如對一些專門利用AI來炮制謠言并借此牟利的灰色產業,應該依法予以嚴肅打擊和清理,亮明底線和紅線,遏制各個環節參與者的僥幸心理。同時,也有必要加大AI時代信息產生狀況的公眾普及,讓更多人對于利用AI造謠的行為有更多預防、警惕心理,并養成查看信息來源的習慣,提高AI時代的信息素養。