三月初網上流傳一則勁爆的新聞「頂流男星澳門豪賭10億，抵押豪宅和私人飛機，為翻本還向黑幫借貸3億」，有網友臆測是周杰倫、林俊傑或黃曉明，甚至跑去本人的官方社群帳號求證，但這些不但稱不上新聞，根本是AI生成的空穴來風謠言。
目前AI被應用在各個領域，新聞媒體也是大量運用的產業之一，包括BBC、紐約時報、新華社等外國媒體都已把AI投入常規使用。甚至義大利使用上更加大膽，自由保守主義日報《Il Foglio》發布了全球首份完全由AI產生的報紙，從頭版頭條、專欄文章、社會現象分析到讀者來信，整份四頁全由AI生成。
筆者同樣從事媒體業，在產稿上也漸漸擺脫不了AI的便利，雖然自知過度依賴科技會讓大腦愈來愈笨，但三倍速的效率確實令人難以抗拒。
除了從業人員以外，有網友也樂於用AI生成「新聞」，有些是為了好玩，有些則企圖從中牟利。像上述提到的一線男星豪賭消息，就是出自某大陸網友之手，此人使用AI軟體輸入社會熱門關鍵字，製作了標題為「頂流明星被曝境外豪賭輸光十億 身價引發輿論海嘯」的假新聞，並在小紅書、微博等社交平台迅速擴散，事後已被大陸公安部逮捕，處以行政拘留8日。
用AI協助產製新聞和用AI生成新聞是兩碼事，由於當前語言類AI還是抓取語料進行生成，不少網友的自發內容也會被AI識別為「資料」，從而生成一些看似真實、實際上根本沒有發生的「新聞」。這導致這些由AI產生的假新聞正成為內容的源頭，不斷地在使用者反覆詢問和獲取反饋中循環。
另外現在的AI有時比新聞從業人員更熟知人性，能夠精準挑動網友情緒，加快了生成新聞的腳步，同時也削減了使用者思考和反應的時間。此時AI已不再是幫助人省時省力的工具，而是幻覺和欺騙的製造者。
這兩年，AI假新聞層出不窮，以文字、圖片、影片等形式呈現，也出沒在娛樂、體育、社會生活等各種領域，並產生不小影響。一則AI假新聞的生產成本、傳播成本都大幅降低，其擴散範圍也變得更大、更廣。
有學者指出，AI深度偽造影片、政府公告、企業聲明、名人言論、虛假金融訊息等行為，已嚴重干擾公眾的判斷，這類假消息不僅誤導消費者，還損害了社會公信力。
有業者開始意識到需正視這個問題必須有所行動，例如OpenAI與新聞集團和《金融時報》簽署了商業合作及授權協議，讓ChatGPT用戶能看到特定的、註明出處的新聞摘要、引用和連結，這些措施在於強化AI生成內容的可靠性與確定性。
在這個人人都可以產製內容、真假虛實難辨的時代，AI如同雙面刃，每個人都必須習得媒體識讀的能力，才不會輕則遭誤導、重則喪失財物甚至莫名吃上官司。