習近平總書記指出：“青年興則國家興，青年強則國家強。”青少年處在價值觀形成和確立的時期，引導青少年樹立正確的世界觀、人生觀、價值觀，對于青少年成長成才具有重要意義。當前，人工智能迅猛發展，帶來信息生產傳播方式深刻變革，對青少年思想觀念形成和塑造的影響日益顯著。人工智能通過智能算法為青少年提供了高度個性化的信息內容，大大提升了信息獲取的效率，但也在信息篩選、內容導向等方面存在各種偏差，影響青少年對信息真實性和社會價值的判斷。黨的二十屆三中全會《決定》提出：“建立人工智能安全監管制度。”我們要深刻認識人工智能給青少年思想觀念帶來的影響，不斷完善人工智能治理，為青少年健康成長營造良好信息環境。
防止虛假信息造成誤導。生成式人工智能的發展正深刻改變內容創作者的主體結構，呈現出由人類主導向算法驅動轉變的特征。這種轉變雖然顯著提升了內容生產效率，卻也帶來了一定的問題。生成式人工智能開發者在商業利益最大化的驅動下，容易忽視信息的真實性與社會價值，導致一些生成的內容是虛假的或是具有誤導性的，對青少年群體認知的形成產生負面影響。比如，一些文生視頻大模型利用虛擬現實技術，生成逼真度很高的視頻圖像，進一步模糊了真實與虛構的界限，加劇了人們對信息真實性的判斷難度。當青少年群體缺乏足夠的判斷能力和數字素養時，就容易陷入算法制造的信息陷阱，被虛假內容誤導，甚至產生不正確認識。
防止個性化推薦算法導致認知視野局限。生成式人工智能依托深度學習算法，對用戶行為進行精準分析，能夠為青少年群體提供高度個性化的信息內容。這一技術雖然提升了信息獲取的便捷性，卻不可避免地加劇了“信息繭房”現象，即算法依據用戶偏好進行內容推薦，使青少年群體長期處于單一化、同質化的信息環境之中，從而可能限制青少年群體的認知視野和思維深度。此外，這種內容趨同化現象還進一步加劇了信息消費的碎片化，使青少年群體在面對海量信息時難以進行系統歸納與綜合，從而弱化了對社會議題的整體理解力與參與度。這種情況不利于青少年群體完善知識結構、發展批判性思維，也在一定程度上妨礙社會整體形成正確認知。
防止算法偏見和成癮性特征帶來不利影響。隨著經濟全球化深入發展，青少年在信息消費過程中更加容易接觸到內容和形式多樣的生成式人工智能產品。這些產品的內容生成算法和用于模型訓練的數據有些體現著西方價值觀，基于內含價值偏見的數據、應用具有價值偏見的算法，能夠以相對隱蔽的方式對青少年群體的價值判斷、認知觀念等施加錯誤影響。此外，生成式人工智能在便利性和沉浸感上吸引力倍增，可能造成沉迷、上癮現象。如果長期過度依賴，會削弱青少年的社會適應能力，容易滋生孤獨感、焦慮感等不良情緒。
面對人工智能發展對青少年成長信息環境的深刻改變，我們需要適應青少年健康成長要求，從技術自主、強化監管、內容生產、素養養成和社會協作等多維度構建系統化的應對策略，不斷完善人工智能治理，構建更加健康的數字信息環境。要推進高水平科技自立自強，推動人工智能技術自主研發和創新，確保關鍵核心技術自主可控，加強生成式人工智能相關文化產品的自主創作，使人工智能在內容生成和傳播上契合社會主義核心價值觀。建立健全對技術的監管機制，完善技術倫理框架，防止商業利益考量侵蝕信息真實性，嚴控虛假信息擴散。加強對青少年群體的教育引導，提高數字素養，培養批判性思維，提升在信息洪流中識別偏見和誤導性內容的能力。加強政府、企業、社會組織等多方面協同合作，搭建全社會共同參與的治理格局，為完善人工智能治理提供強大社會支撐。
（作者單位：中國社會科學院大學新聞傳播學院）
《 人民日報 》（ 2025年02月14日 09 版）