人工智能時代內容生成的倫理治理——訪清華大學文科資深教授、人工智能國際治理研究院院長薛瀾
技術進步帶來虛假錯誤內容的生成風險
學習時報：近年來，生成式人工智能引起社會各界大范圍關注。與以往內容生產主要依賴于人類自身的經驗和創新相比，人工智能時代內容生成的核心變革體現在哪些方面？
薛瀾：與以往人類社會的內容生產機制相比，從大數據中自動獲取知識的機器學習是人工智能時代的主要機制和技術驅動力。隨著大數據技術在多領域的廣泛應用和市場規模的快速增長，生成式人工智能技術已成為人類進行內容生產的有力工具，拓展了新創意的展示方法，大大超越了人類以往的內容生產效率，甚至正在重塑人類社會內容生產和傳播的底層邏輯。
人工智能技術對內容生產的顛覆性突破，首先體現在生產效率的指數級提升。比如，在傳統內容創作中，一部作品往往需要很長一段時間，但通過大語言模型，只需要輸入提示詞或者初步構想，就可以實現秒級生成。其次，生成式人工智能技術的廣泛應用在很多領域大幅降低了知識獲取和內容創作的門檻，這不僅降低了專業創作的成本，更賦予了普通用戶參與內容生產的能力，在一定程度上創造了“全民創作”的可能。
學習時報：對于各種生成式人工智能技術的開發應用，人們在享受便利的同時，也正在經受著各類虛假錯誤內容的困擾，您怎么看這類問題的產生？
薛瀾：技術紅利與技術缺陷是共生共存的。從生成機制上說，生成式人工智能帶來的虛假錯誤內容主要分為三類。
一是人工智能技術本身具有的內生風險。比如，技術幻覺風險在內容生產過程中普遍存在。技術本身無法對源頭數據進行真假辨別，加上理解能力有限、模型架構缺陷等原因，人工智能技術在實際應用中呈現出一定的內容重構特征，可能輸出看似嚴謹合理，實際上卻與事實或邏輯不符的虛假錯誤內容，出現“一本正經地說假話”現象。
二是技術開發過程中的風險。技術的算法歧視是由訓練數據的思維映射而引發的。人工智能技術在訓練、學習過程中所用數據，都是人類社會以往產生的，必然帶有主觀色彩和人類活動特征。生成式人工智能應用的過程，實質上是對過往人類社會模式的特征進行總結并用來對未來社會進行感知和決策的過程，復制并延續傳統社會特征自然也就不可避免，使得現階段生成式人工智能技術無法完全避免歧視。整體而言，人類借助以往的經驗、知識儲備和信息查證，相對容易識別技術內生風險、開發訓練風險引發的虛假錯誤內容。
三是基于技術應用或濫用的風險。任何技術本質上都是工具，它的倫理困境在于使用的方向問題。對這類風險要辯證看待。第一種情況，在善意的應用中帶來了無意的負面影響。例如，網友用人工智能“復活”已故明星，本意是表達懷念，但未經家屬同意，反而可能讓逝者親屬再次承受痛苦，甚至涉及肖像權爭議。技術應用初衷是善意的，但因缺乏倫理考量，帶來了情感傷害和法律風險。第二種情況，深度造假與惡意應用。由于技術加持，主觀惡意的內容造假突破了以往“耳聽為虛、眼見為實”的真實性判斷方式，語音合成、視頻換臉等生成的“超真實”虛假內容沖擊著社會信用基礎，“眼見未必為實”具有以往謠言難以企及的破壞力，傳統社會信用評判方式面臨著崩塌風險。而且，惡意應用的危害力因技術的普及而成倍增長。更嚴峻的情形是，一些主觀惡意的虛假錯誤內容生成已經形成完整的產業鏈條，從定制虛假內容生產到隱秘傳播渠道，呈現出專業化、規模化的特征。與技術缺陷導致的虛假錯誤內容相比，這類內容更不易被發現，危害程度更大。
所以，我們對人工智能技術進行監管，主要是建立一個合理的治理體系，對濫用、惡用人工智能技術所帶來的各類已經產生的危害或尚未有實質危害的潛在風險進行規制。
人工智能時代需要敏捷治理
學習時報：由于生成式人工智能技術的飛速發展，傳統治理模式已經跟不上現實內容生態治理需求，我們需要做怎樣的調整？
薛瀾：自2022年底ChatGPT 發布以來，生成式人工智能技術日新月異，幾秒鐘就可以生成用戶所需的視頻、音頻或文本，人工智能技術的超預期迭代速度和不可預測的發展特征，對治理體系的同步演進提出了巨大挑戰。
一方面，以生成式人工智能為代表的人工智能產業目前屬于新興產業，其以創新為主要驅動力，滿足并激發了海量的社會需求，可以說是一種在市場需求主導下通過技術創新和商業模式創新而形成的產業。高度不確定性是新興產業的突出特征，關鍵技術的迭代，市場需求、競爭環境、商業模式、價值理念等方面的變化往往難以捉摸甚至瞬息萬變，這就產生了技術發展與技術治理步調不一致的問題。同時，市場信心在新興產業發展中起著關鍵性作用。一旦有關方面釋放強監管信號，或發生有關產業發展的負外部事件，新興產業的創新路徑和方向將會受到直接影響，甚至遭受毀滅性打擊。
另一方面，以生成式人工智能為代表的人工智能產業發展帶來的倫理風險和負外部性問題也需要引起關注，并采取科學合理的措施降低社會風險，確保其健康可持續發展。在新興產業發展過程中，政府監管能夠對相關產業的技術和商業模式起到一定程度的正向引導作用，幫助企業有效規避可能產生的系列社會風險，營造負責任的企業形象，為產業高質量發展創造良好的社會支持氛圍。
在人工智能時代，我們要堅持敏捷治理理念，做到監管不是關門禁入，而是實現開門有序進入。敏捷治理的目標框架主要包含兩個維度，一是維護產業創新，二是規制產業發展帶來的負面影響。具體地說，就是適應人工智能技術發展的速度要求，配置產業發展所需的制度資源，維護技術創新導向，防控產業風險，促進公眾利益最大化，從而實現治理目標的有機平衡。
學習時報：這么說來，敏捷治理是具有一整套原則體系的治理模式。具體該如何實施敏捷治理？
薛瀾：一是治理上的快速反應，發揮信號警示作用。傳統治理模式的突出特征是治理對象的不確定性低，發展路徑和方向比較穩定，政府有充足的時間充實論證、制定相關監管判斷的依據，形成完整的制度化的規則體系。而以生成式人工智能為代表的人工智能技術瞬息萬變，如果延續這種治理模式，可能尚未完全弄清監管判斷標準，治理對象就已經發生了變化。以往我們因為理念調整不及時在其他領域是有過深刻教訓的，必須引以為戒。所以，適應人工智能時代的產業發展需要，治理需要突出敏捷性，迅速對已經出現或有苗頭性的風險進行規制，給各有關主體一個信號，并隨著實踐變化不斷迭代，及時完善優化措施。
二是工具選擇上突出柔性原則，引導為主，懲罰為輔。在傳統治理中，政府監管是在發現問題、確定問題之后通過正常行政或法律程序制定實施規則的，政策工具以懲處為主，表現為“過程慢、力度大”。而對以生成式人工智能為代表的人工智能產業，敏捷治理在工具的選擇上就要反過來，即“下手快、力度輕”。“快”可以減少企業技術路徑和商業模式的調整損失；“輕”主要突出方向性和試探性，企業可以馬上得知監管態度，知曉對產業治理的方向。需要注意的一點是，這種工具選擇的邏輯是引導而不是懲罰，但如果企業對政府的有關引導視而不見、置之不理造成不良后果，政府也有必要采取嚴格的監管措施。
三是治理關系上實現重塑，形成共同體機制。在傳統治理模式中，政府監管具有鮮明的問題導向，監管者與被監管者之間呈現典型的“貓和老鼠”關系。政府主要通過抓企業的負面行為實現監管，盡可能制定一套全面完整的監管規則，而企業由于法規意識不強，為了擴大自己的盈利空間，會通過尋找規則漏洞來逃避監管，二者往往位于對立面。但在以生成式人工智能為代表的人工智能時代，企業很多時候不知道再往前會出現什么樣的創新，政府也不知道會產生什么樣的風險，監管者與被監管者對未來發展趨勢處于“共同無知”的狀態，二者之間的對立關系演化為互相依賴關系。這就需要雙方在共同利益的基礎上開展深入交流與充分溝通，探索找到一個合適的空間，使得企業的創新探索不會突破政府規制的底線，政府的規則不會完全地束縛企業創新的手腳。這樣的合作關系有助于政府更好了解技術和市場發展走向，正確評估相關風險并執行合理的規制措施，也使企業清晰洞察產業發展可能帶來的風險和政府治理目標，明晰產業發展邊界，共同塑造和引領產業的技術路徑和商業模式選擇，實現政府和企業的合作共贏，滿足良好的互動預期。
學習時報：在內容生成領域，實施敏捷治理的方向和原則已經很清晰了，但在微觀層面，需要解決好哪些難題？
薛瀾：敏捷治理要真正落地并不容易。在內容生成領域，我們面臨的其中一個難題就是如何確定內容生成主體行為的責任以及采取什么樣的懲罰措施。
理論上，實施內容造假的主體肯定存在違法甚至犯罪行為。但假如一個人生成了虛假錯誤內容，甚至嚴重一點說涉及敏感話題，但并沒有進行廣泛傳播，也沒有產生負面的社會影響，這種情況下如何判定行為的惡劣程度？假如造假內容不敏感，但造成了大范圍傳播，又該如何判定責任？如果用戶僅是出于個人娛樂等目的生成了虛假內容，但被平臺誤推送，造成了不良社會影響，責任又該如何劃分？這些都對政策工具反應的速度和靈活性造成了難題。
對虛假錯誤內容治理要形成多元合力
學習時報：由于生成式人工智能技術的低門檻、普及化特性，參與主體也比以往更為廣泛和多元，政府、研發企業、應用平臺、用戶、普通大眾等都是直接參與者和利益主體。剛剛講了政府治理理念的調整，企業在內容治理中要承擔哪些責任？
薛瀾：在人工智能時代的內容生成生態中，企業作為技術開發和應用的主體承擔著重要的責任。針對人工智能產業發展所帶來的風險，我國已經形成了較為立體的治理體系，可以分為上、中、下層。上層是2019年發布的《新一代人工智能治理原則——發展負責任的人工智能》和2021年發布的《新一代人工智能倫理規范》。中層是針對人工智能具體領域的法律法規，比如2023年發布的《生成式人工智能服務管理暫行辦法》、2025年發布的《人工智能生成合成內容標識辦法》等。下層就是鼓勵企業加強內部機制建設，成立倫理委員會等。不論是技術開發企業還是技術應用平臺企業，都必須遵守國家相關的法律法規要求，確保生成的內容健康、準確、真實，并嚴格按照內容標識辦法對人工智能生成的內容進行標注，確保消費者的知情權。
除了合規性要求，企業還需要多做一步，投入更多時間和精力做好技術自糾，防范和應對自身技術系統被惡用的風險。比如通過預訓練數據清洗，對某些敏感數據進行有效識別并剔除，提高源頭數據質量；在內容生成過程中設置過濾環節，及時識別用戶的主觀濫用、惡用意圖，攔截違規生成內容；對醫療等敏感領域的內容生成實施人工審核兜底；通過用戶反饋學習，拒絕違背法律法規、社會公序良俗的內容生成要求，降低模型倫理風險；等等。
學習時報：在內容生成生態的治理中，除了要發揮有效市場和有為政府的作用，我看到您的團隊還提出了“有機社會”的治理理念。
薛瀾：打造良好的內容生成生態，不僅要發揮政府、企業的作用，更需要形成利益共同體意識，建立多元治理格局，重視公眾在內容生成生態治理中的地位和作用。
首先，公眾具有用戶和受眾雙重角色，能夠直觀感知內容生成質量。要提高他們的辨別能力和維護良好內容生態、參與社會倫理判斷的責任意識，對不良生成內容及時反饋，必要時對各類虛假錯誤內容或惡意應用行為進行舉報，配合有關部門加強監督。
其次，使用者推動技術創新。隨著新一輪科技革命和產業變革的深入發展，傳統以生產者為中心的創新模式逐漸被以使用者為中心的創新模式所替代。使用者創新是指產品的最終用戶基于自身需求和使用經驗，對現有產品或服務進行改進或重新設計，甚至開發出全新解決方案的創新行為，其核心驅動力在于使用者對實際應用場景的深刻理解和對新需求的切身感知。生成式人工智能技術的研發與應用本身是滿足市場需求的結果，而用戶在使用過程中會由于新需求的出現，產生對現有技術的優化需求，從而對生成式人工智能技術進行需求導向的創新重塑。因此，我們應該積極鼓勵公眾廣泛參與，發揮使用者創新的集體智慧，促進內容生成技術的功能優化和使用場景的創造性拓展。
最后，公眾作為使用者也應加強自律意識，善用生成式人工智能技術，明確新技術新工具是用來創造價值、增加社會福祉的。在內容傳播上要有責任意識，對接觸到的虛假錯誤內容要堅決說“不”，從個體做起，匯聚推動人工智能技術良性發展的善意力量。反過來，為了提高公眾對人工智能技術的認識和理解、對虛假錯誤內容的辨別能力，政府和有關機構要著力推動科普教育力度，建立信息驗證平臺，利用講座、展覽等方式普及人工智能技術的基本原理和應用場景，幫助他們認識技術的局限性和各類潛在風險。借助各類公眾號、視頻號等新媒體平臺發布科普文章和視頻，提升公眾的科學素養和防范意識，培養公眾對接收到的各類信息的正確態度和閱讀習慣，為構建良好的內容生成生態營造良好的社會環境。
現在，很多機構在積極開發相關的內容監測平臺，這方面存在很大技術潛力和積極社會價值。但事實核查有著巨大挑戰，目前的治理存在著“道高一尺、魔高一丈”的困境，需要建立政府主導、產學研協同、公眾廣泛參與的立體化治理體系，形成強大的治理合力。
總之，創新和治理的平衡是人工智能技術發展的永恒主題。
內容生成技術會導致創造力依賴和情感鈍化嗎
學習時報：智能化一直以來是人類的夢想，但我們都沒預料到它會以如此迅猛的速度成為現實。對生成式人工智能技術而言，未來我們需要警惕哪些新興風險？
薛瀾：隨著人工智能技術的進一步發展，人類社會正在進入全新的智能化時代，未來生成式人工智能技術的發展可能會超乎我們的想象。可以肯定的是，未來生成式人工智能技術應用會更加廣泛，更精準地理解并滿足用戶需要，生成更具多樣性、個性化和創造力的高質量內容，為人類提供更加豐富的選擇。這當然也會帶來一系列的倫理風險。其中最值得警惕的是技術引發的人類創造力依賴和情感鈍化風險。
首先，人工智能在內容生成、決策支持和日常任務中的廣泛應用，可能導致人類逐漸喪失獨立思考和解決問題的能力。例如，當人工智能能夠完全替代人類完成寫作、設計甚至決策任務時，無形中人類就減少了深度思考和反復試錯的過程，而這些恰恰是創造力激發和積累的關鍵環節。如此一來，長期依賴人工智能生成的內容，可能會使人類的原創思維和表達能力逐漸退化，最終導致整體創造力的萎縮。
其次，人工智能技術雖然提升了信息獲取效率，但其中可能摻雜了用戶算法分析和系統自身的算法歧視，從而將人們困在“信息繭房”中，限制了接觸多元觀點的機會，進而削弱思維的廣泛性、靈活性和創新性。當算法不斷迎合用戶的偏好，人類主動探索、批判性思考和跨領域聯想的能力可能會逐漸減弱，而這些能力正是創造力的核心要素。
再次，在情感層面，人工智能的介入可能改變傳統的人際互動方式。例如，過度依賴人工智能聊天機器人來代替真實的人與人、人與社會的人際交往鏈接，不可避免地會導致共情能力下降和情感表達簡化。目前，人工智能技術已能夠模擬人類情感并提供即時滿足，而且部分群體對自我情緒價值的要求十分強烈，從而可能逐漸失去處理復雜人際關系的耐心和意愿。此外，人工智能在藝術創作，如詩歌、音樂、繪畫等方面的廣泛應用，可能使人類情感表達趨于標準化、模式化，削弱個體獨特的情感深度和主觀體驗。
需要明確，人工智能技術的工具屬性，在任何時候都不能改變。任何技術的發展，本質上都是人類出于科學角度對穩定性和精準性的追求，以彌補人類能力的不確定性短板。因此，在二者的關系中，人是居于第一位的，人發明并使用技術工具，決不能出現工具駕馭人的情況。人與工具的最本質區別之一就在于人的無窮創造力和真實情感感知力。從當前情況看，我們這一代人對此原則的認知比較清晰，但下一代，尤其是從童年時期即接觸智能設備的青年群體，可能更習慣人機交互方式，對這種風險就需要警惕，就要進行積極干預和引導。
解決的關鍵就在于人類如何主動管理和平衡技術的使用。如果能夠將人工智能始終定位為輔助工具而非替代品，鼓勵人機協作而非被動依賴，同時重視教育體系中創造力與情感培養的核心地位，技術就可能成為增強人類能力的催化劑。以往的經驗表明，技術進步往往伴隨新的挑戰，但人類的適應能力和主觀能動性始終是化解風險的關鍵。因此，未來要建立合理的人工智能使用規范，確保技術發展服務于人類的長遠福祉，堅決避免削弱我們的本質能力的現象。
營造有利于年輕人創新創業的良好生態
學習時報：我們談論風險，本質上是希望塑造科技向善的理念，促進生成式人工智能技術在健康有序的軌道上發展才是我們的最終目的。
薛瀾：對。內容生成技術也好，具身智能也好，它們都屬于科技創新。我們中國的老百姓對科技創新的態度總體來講是非常支持、積極擁抱的，接受程度普遍較高。與其他國家相比，這是非常難得的，也是我們的一個突出優勢。
除了公眾支持，我們還要創造一個更加有利于包括生成式人工智能在內的技術發展的良好創新生態。在人工智能領域，年輕人表現得十分搶眼，他們有想法、有熱情，需要為他們提供嘗試的機會。在內容生成領域，我們國家的監管是非常嚴格的，主要是為了保障國家安全、維護網絡空間清朗、保護社會大眾的個人合法權益，同時也在積極探索適應技術發展的監管模式。未來政府規制要增強包容性，明晰大的監管框架，在這個框架下推動形成濃厚的鼓勵創新的氛圍。
學習時報：這種良好的創新生態具體包括哪些內容呢？
薛瀾：首先，要有一定數量的實力雄厚的研究型大學。一方面，高校是培養人的，人才是創新創業的主體，活躍的年輕人很大程度上就是大學畢業生甚至在校生。而且，實力雄厚的大學也會形成“人才磁場”，吸引國內外人才集聚。另一方面，高校是重大科技突破的策源地，可以通過校企鏈接，持續不斷地促進科技創新成果轉化，為企業保持科技領先地位、產業升級提供創新驅動力。所以，科研實力強勁的高校是基礎。
其次，要形成多元的資本投入。在創新生態里面，資本的來源包括政府補貼、金融貸款，也包括民營資本、外資等等。企業對資本的需求是全周期的，如種子期需要高校創新基金、政府科研經費支持，初創期需要政府引導基金、風險投資等，重點是創新培育；成長期需要私募股權投資，上市后需要通過公開募股、企業債券等獲取資本，重點是實現資本的規模化賦能；等等。只有形成豐富的資本結構，才能適應不同類型、不同時期的企業發展需求。
再次，比較適宜的生活環境。這個“適宜”涵蓋很多方面。比如房價要友好，能提供多層次的住房保障，包括公租房、人才公寓等，讓年輕人“有的住”，對安居有盼頭；創業要友好，有完善的創業配套機制和創業氛圍，對創業失敗進行政策兜底，讓年輕人“敢創業”；交通要友好，無論上下班通勤還是出差都十分便利，讓年輕人“少折騰”；生活要友好，除了賺錢，還要滿足年輕人對休閑娛樂的高品質精神追求，讓年輕人“活得爽”；等等。
最后，打造無事不擾、有求必應的營商環境。“無事不擾”強調政府的定力，“有求必應”強調政府的能力，需要政府既克制大包大攬的沖動，又保持周到服務的熱忱；既尊重市場規律，又不推卸責任，做好對各類企業健康有序成長的扶持和服務工作。
