隨著人工智能技術快速發展，AI 被廣泛應用於各行各業，但同時也被不法分子用於製造虛假資訊，引發社會關注。央視網近日報導，多起利用 AI 工具製作假新聞的案例已被公安機關查處，呼籲強化監管與公眾辨識能力。

其中一起案件發生於7月20日，一則關於「三層遊船倒扣江中、30人墜江」的謠言在網路流傳，稱事故發生在湖北宜昌段。經湖北省公安廳與宜昌市公安局聯合調查，迅速鎖定涉事人，其為吸引關注度，使用 AI 工具虛構事故場景，已遭行政處罰。

另一起案件來自雲南大理漾濞縣，嫌疑人趙某某為博取眼球與吸粉，在視頻號上發布多段虛構交通事故現場畫面，同樣透過 AI 工具生成，極具迷惑性。警方及時查處，有效控制傳播範圍。

警方指出，AI 技術已能生成高度擬真的影像內容，一旦被濫用，恐對社會秩序與公信力造成嚴重影響。除加強技術監管外，亦須提升公眾辨識虛假內容的能力，以應對 AI 假訊息所帶來的潛在風險。