3月10日，一則“頂流明星澳門豪賭輸光十億”的謠言如病毒般席卷中文互聯(lián)網(wǎng)。今天，公安機關以行政拘留8日的處罰為這場鬧劇畫上句點。據(jù)警方通報，網(wǎng)民徐某強為博取流量、謀取非法利益，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞制作了標題為“頂流明星被曝境外豪賭輸光十億身價引發(fā)輿論海嘯”的謠言信息。

無獨有偶，就在同一天，一男子利用AI撰寫色情小說牟利獲刑的消息也引起網(wǎng)友熱議。根據(jù)湖北高院披露案例，2022年11月至2023年3月期間，犯罪嫌疑人柯某某以牟利為目的，使用翻墻軟件在境外網(wǎng)站借助AI工具批量生成淫穢小說發(fā)布并售賣，總計售賣約760篇（次），共計獲利22873.95元。

用AI造謠、寫色情小說……這兩起案子之所以引爆熱搜，除了“AI+明星豪賭”“AI+小黃文”的獵奇組合，更折射出技術濫用的隱憂。近年來，從ChatGPT橫空出世，引起風潮，再到之后的文心一言、Kimi、豆包、DeepSeek等，AI正以驚人的速度滲透到我們生活的方方面面。然而，隨著AI的迅猛發(fā)展，各類與之相關的濫用也隨之出現(xiàn)。如有人利用AI數(shù)字人批量上線圍獵老年人，通過養(yǎng)生直播引流，誘導老人高價買“神藥”；有人利用AI篡改短視頻，克隆名人聲音帶貨，“移花接木”設置消費陷阱；有人通過“AI薦號”圍獵彩民，騙取彩民“注資”。還有一些別有用心者，大量發(fā)布AI生成的擦邊內容，以迎合一些人的低級趣味、獵奇心態(tài)，結果就是子虛烏有的爆料、匪夷所思的內容大行其道。

要扭轉這樣的局面，有必要盡快明確針對AI應用的行業(yè)規(guī)范，為維護公共利益構筑起強大的防火墻。對于AI創(chuàng)作者來說，應對內容和關鍵詞進行審核，把好生成式內容的第一關，避免嘩眾取寵的虛假內容混淆視聽。對于內容平臺來說，不僅應對AI生成內容進行顯著標識，而且應健全內部管理機制，及時清除涉嫌違法違規(guī)的不良賬號。對用戶來說，則要有更清醒的認知以及更堅韌的理性，在遇到不明信息及問題時多問幾個“真的嗎”“為什么”，提高自我辨別能力。

值得一提的是，就在今天，國家網(wǎng)信辦等部門已聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》，辦法9月1日起施行。其中明確要求，對AI生成合成內容要進行標識，以便公眾識別和區(qū)分，防止誤導性信息傳播，不得通過不正當標識手段損害他人合法權益等。此外，兩會期間，雷軍、靳東等不少代表委員也就“AI換臉擬聲”發(fā)聲，呼吁立法嚴管“AI換臉擬聲”濫用，這一建議得到很多網(wǎng)友的支持。這表示，規(guī)范AI已成為社會各界的普遍共識。說到底，遏制AI技術濫用風險是一道綜合考題，唯有強化各方的主體責任，才能在AI時代守住技術的底線和紅線，防止技術濫用和跑偏，真正讓科技向上向善、為人類服務。

相關新聞

用AI捏造“頂流明星在澳門輸了10億”謠言，一男子被拘留