不久前，某機場出現一張由人工智能（以下簡稱“AI”）生成的廣告畫面，因人物主體有六根手指引發熱議。這一失誤看似荒誕，卻也揭示出“AI幻覺”的問題。
當算法能夠驅動內容生產，AI迅速響應用戶指令，生成各類文本、圖像和音視頻內容，“一鍵生成”帶來的快感，讓越來越多的人陷入“技術依賴”，同時也產生了信息混淆和傳播誤導的風險。
近日，國家互聯網信息辦公室等四部門聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）?！稑俗R辦法》聚焦人工智能“生成合成內容標識”關鍵點，通過標識提醒用戶辨別虛假信息，明確相關服務主體的標識責任義務，規范內容制作、傳播各環節標識行為。
《標識辦法》要求，由人工智能生成的文本、圖片、音頻以及視頻等內容，均需添加顯式或隱式的標識。顯式標識，如文字、語音提示，能夠直觀地告知用戶內容的生成來源；隱式標識，如元數據、數字水印，則能在不影響用戶體驗的前提下，暗中標記內容的生成信息。這一舉措有效破解了內容溯源的問題，還有助于重建網絡空間的信任秩序。
技術的發展同風險挑戰，從來都是相伴而生。從實驗室里助力前沿探索到醫療影像輔助診斷，從城市交通智慧調度到農業精準種植指導……AI為人們帶來了更便捷智能的體驗，但也出現了一系列因濫用AI而產生的問題：深度偽造技術制造的虛假影像難辨真偽，AI換臉技術催生的身份盜用防不勝防，惡意生成內容更成為網絡空間的新型污染源。
既要用好，也要管好。近年來，我國已相繼出臺《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等政策文件，既為技術創新開辟航道，又為公共利益筑牢堤壩。通過不斷對新出現的問題實施針對性治理措施，并與算法備案、安全評估等制度相銜接，科技向善的愿景得以更好地維護和發展。
公眾如何使用AI也顯得尤為重要。人工智能最終是要為人服務的，需要人來做出選擇和判定。我們需要形成批判性使用AI內容的共識，提高人們對AI生成內容的辨識能力和防范意識。只有這樣，我們才能讓AI為工作和生活賦能，避免被AI“挖坑”。
當前，AI以“周更”速度迭代且更為深入地介入現實生活，生成內容日均億萬量級地井噴，可以預見，相伴而生的AI治理問題還將持續出現。在創新的同時筑牢安全底線，實現動態平衡中的持續優化，將是AI時代長期面臨的課題。只有將技術的“快”與人類的“慎”結合起來，才能更好地讓技術為人類所用，服務社會發展。
（轉自《人民日報海外版》作者：石暢）
(編輯： 廣州網 龍煜)
