聚焦個(gè)人隱私與版權(quán)保護(hù)，警惕深度偽造濫用，探究“AI治理AI”新模式，堅(jiān)持人本主義，是生成式人工智能風(fēng)險(xiǎn)治理的關(guān)鍵。

人工智能的創(chuàng)新應(yīng)用形塑社會(huì)互動(dòng)模式。在信息傳播、醫(yī)療、交通、教育等場(chǎng)景中，人工智能成為社會(huì)互動(dòng)的代理，促使人與人的互動(dòng)越來越多地轉(zhuǎn)換成人機(jī)互動(dòng)。智能技術(shù)重構(gòu)新聞傳播的業(yè)態(tài)和生態(tài)，深度嵌入信息獲取和決策過程，影響公眾的社會(huì)闡釋框架。

作為社會(huì)的信息傳遞基座，新聞傳播業(yè)在接受人工智能技術(shù)賦能的同時(shí)，也成為人工智能風(fēng)險(xiǎn)生成、擴(kuò)散和演變的關(guān)鍵場(chǎng)域。自2022年以來，人工智能的內(nèi)容生成和交互水平取得突破性進(jìn)展。人工智能聊天機(jī)器人程序ChatGPT、人工智能圖片生成平臺(tái)Midjourney和文生視頻大模型Sora等生成式人工智能出現(xiàn)，掀起內(nèi)容生產(chǎn)和信息消費(fèi)熱潮。生成式人工智能的數(shù)據(jù)訓(xùn)練、程序設(shè)計(jì)和生成結(jié)果應(yīng)用等環(huán)節(jié)，也可能產(chǎn)生“被制造的風(fēng)險(xiǎn)”（manufactured risks），[1]涉及人機(jī)關(guān)系、深度偽造、產(chǎn)業(yè)變革等多個(gè)維度。

一、新聞傳播業(yè)對(duì)人工智能的創(chuàng)新采納

人類歷史從根本上是人與物、物與物糾纏的歷史。[2]人與技術(shù)物的關(guān)系大致有具身關(guān)系、詮釋關(guān)系、它異關(guān)系和背景關(guān)系四種，[3]技術(shù)物是身體認(rèn)知的放大器，也是人類觀察、理解和操縱世界的中介，可以作為它者或準(zhǔn)它者與人類共存，也可以融為生活環(huán)境的一部分，潛移默化地發(fā)生作用。作為一類技術(shù)物的人工智能與人類展開長(zhǎng)期的互動(dòng)實(shí)踐，新聞生產(chǎn)和傳播實(shí)踐就是其中之一。從數(shù)據(jù)處理到信息分發(fā)再到內(nèi)容生成，人工智能成為新聞傳播業(yè)的創(chuàng)新驅(qū)動(dòng)力和生產(chǎn)力。

（一）人工智能的發(fā)展：“類人”化與“類物”化

無論是將人工智能視作“工具”還是“潛在的合作伙伴”，公眾對(duì)它的存在已習(xí)以為常。人工智能發(fā)展和應(yīng)用是基于不可見的基礎(chǔ)設(shè)施支撐體系，包含計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)硬件等硬件基礎(chǔ)設(shè)施體系和多樣化的機(jī)器學(xué)習(xí)框架、算法以及相關(guān)工具軟件、PaaS平臺(tái)、服務(wù)等軟性基礎(chǔ)設(shè)施體系。近年來，人工智能的研發(fā)致力提升人工智能與人類社會(huì)的適配性，沿著“類人”和“類物”兩個(gè)方向使人工智能融入社會(huì)的過程“自然化”。[4]所謂的“類人”，是指不斷豐富人工智能算法模型的情感和心理維度，如通過分析文字詞頻、音頻文本中的聲調(diào)語速、圖像文本中的面部表情特征等推測(cè)情感類型。所謂的“類物”是將易于交互的人工智能物嵌入人類熟悉的場(chǎng)景，如家庭生活場(chǎng)景中的育兒機(jī)器人、養(yǎng)老護(hù)理機(jī)器人和智能音箱等。

（二）智能化信息生產(chǎn)：人工智能成為生產(chǎn)主體

人工智能在不同場(chǎng)景中“類人”和“類物”的應(yīng)用發(fā)展，也包括對(duì)傳統(tǒng)信息生產(chǎn)流程的重構(gòu)。繼專業(yè)生產(chǎn)內(nèi)容（PGC）和用戶生產(chǎn)內(nèi)容（UGC）后，人工智能生成內(nèi)容（AI-Generated Content, AIGC）成為一種新型內(nèi)容。作為一個(gè)復(fù)合型概念，人工智能生成內(nèi)容“既是從內(nèi)容生產(chǎn)者視角進(jìn)行分類的一類內(nèi)容，又是一種內(nèi)容生產(chǎn)方式，還是用于內(nèi)容自動(dòng)化生成的一類技術(shù)集合”[5]。而生成式人工智能（Generative Artificial Intelligence, GAI）是指通過復(fù)雜的算法和模型對(duì)大規(guī)模數(shù)據(jù)進(jìn)行集中學(xué)習(xí)，具有“文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)”[6]，是“根據(jù)人類制定的規(guī)則訓(xùn)練而成的有立場(chǎng)、一定程度上受控的智能內(nèi)容生成工具”[7]。在狹義上，人工智能生成內(nèi)容是生成式人工智能參與生產(chǎn)的結(jié)果，但生成式人工智能更聚焦于技術(shù)、模型和工具。

生成式人工智能可以完成多模態(tài)文本轉(zhuǎn)換，還能模仿人類的不同情緒口吻來輸出內(nèi)容。目前，按照任務(wù)類型劃分，傳媒機(jī)構(gòu)生成式人工智能的應(yīng)用形態(tài)有寫作機(jī)器人、數(shù)智記者和AI主播等。人工智能在災(zāi)害事件（地震和暴雨等）、天氣預(yù)報(bào)、財(cái)經(jīng)、體育等垂直領(lǐng)域的報(bào)道方面，具有明顯的時(shí)效性優(yōu)勢(shì)。包含生成式人工智能在內(nèi)的人工智能，將記者從轉(zhuǎn)錄、翻譯、校對(duì)等流程性工作中解放出來。傳媒機(jī)構(gòu)希望利用智能工具提升生產(chǎn)力，放大人類記者在新聞深度和事實(shí)核查等方面的獨(dú)特優(yōu)勢(shì)，發(fā)展解釋性報(bào)道和建設(shè)性新聞，進(jìn)而鞏固行業(yè)邊界。

（三）智能化信息分發(fā)：從個(gè)性化走向定制化

人工智能應(yīng)用于平臺(tái)型媒體，以場(chǎng)景化、個(gè)性化的智能算法分發(fā)滿足用戶需求。通過收集用戶的個(gè)人信息數(shù)據(jù)和使用數(shù)據(jù)，智能算法分析總結(jié)出不同的用戶畫像，根據(jù)歷史偏好、相似群體偏好以及社交關(guān)系進(jìn)行推薦。同時(shí)，平臺(tái)算法會(huì)根據(jù)用戶的點(diǎn)擊量、閱讀時(shí)長(zhǎng)、完播率、個(gè)性化設(shè)置等不斷調(diào)整內(nèi)容推薦模式。

生成式人工智能實(shí)現(xiàn)跨平臺(tái)內(nèi)容聚合和分析，還能根據(jù)用戶需求提煉總結(jié)出核心關(guān)鍵信息，產(chǎn)出定制化內(nèi)容。因此，生成式人工智能有望發(fā)展成為“下一代網(wǎng)絡(luò)入口”，[8]也將再次改變內(nèi)容分發(fā)邏輯。

（四）智能化內(nèi)容呈現(xiàn)：從“認(rèn)知新聞”到“體驗(yàn)新聞”

人工智能豐富新聞呈現(xiàn)形式，推動(dòng)“認(rèn)知新聞”向“體驗(yàn)新聞”轉(zhuǎn)變。面對(duì)新聞回避和新聞疲勞的雙重挑戰(zhàn)，新聞業(yè)轉(zhuǎn)型的重要策略是進(jìn)一步增加音視頻形態(tài)的新聞數(shù)量，[9]以滿足用戶需求。新聞的數(shù)據(jù)可視化、碎片化、視頻化等趨勢(shì)，豐富了新聞閱讀體驗(yàn)。2023年，安徽寒潮來襲時(shí)，大皖新聞的數(shù)智記者“小朱姐”迅速上鏡播報(bào)，省略拍攝場(chǎng)地準(zhǔn)備、妝造彩排等步驟，保障了新聞的時(shí)效性。川觀新聞的數(shù)字記者矩陣包含20個(gè)真人記者的數(shù)字分身，可以充分發(fā)揮多線程播報(bào)的優(yōu)勢(shì)，提升內(nèi)容生產(chǎn)效率。

近期發(fā)布的Sora類文生視頻模型，引發(fā)使用生成式人工智能進(jìn)行時(shí)空模擬和時(shí)空再造的豐富想象。Sora雖然在新聞現(xiàn)場(chǎng)采集、新聞?wù){(diào)查和信源核實(shí)等方面有缺陷，但能夠幫助記者還原一些“難以重回的現(xiàn)場(chǎng)”或制作便于理解和傳播的解釋性影像，提升新聞覆蓋率和受眾參與度。

未來，生成式人工智能和AR/VR等技術(shù)結(jié)合，將會(huì)以逼真的感官體驗(yàn)和自由設(shè)定，讓用戶沉浸式體驗(yàn)各類新聞場(chǎng)景。此外，生成式人工智能還能對(duì)新聞內(nèi)容作出調(diào)整，以滿足不同用戶群體的閱讀習(xí)慣偏好。新聞閱讀程序“Artifact”，可以用不同的風(fēng)格總結(jié)用戶感興趣的文章內(nèi)容，將其改寫成Z世代喜愛的風(fēng)格或一系列便于在社交媒體傳播的表情符號(hào)。智能社會(huì)與圖像社會(huì)疊加，使世界更加趨于圖像化、影像化。用戶的認(rèn)知模式也隨之轉(zhuǎn)變，從借助全面、客觀、深度的信息進(jìn)行“認(rèn)知”轉(zhuǎn)向習(xí)慣于通過影像和主觀情感聯(lián)想進(jìn)行“體驗(yàn)”。

（五）智能化內(nèi)容治理：用AI治理AI

虛假信息的生產(chǎn)傳播是人類社會(huì)存在的長(zhǎng)期問題之一。事實(shí)核查主體和技術(shù)變遷主要經(jīng)歷了三個(gè)階段：傳統(tǒng)的新聞事實(shí)核查；基于大數(shù)據(jù)、區(qū)塊鏈等智能技術(shù)的事實(shí)核查；用AI治理AI的事實(shí)核查。

一是傳統(tǒng)的新聞事實(shí)核查。傳統(tǒng)的事實(shí)核查依賴人力核實(shí)新聞信源與經(jīng)過，主要由職業(yè)新聞從業(yè)者完成，所需時(shí)間和人力成本較高。

二是基于大數(shù)據(jù)、區(qū)塊鏈等智能技術(shù)的新聞事實(shí)核查。大數(shù)據(jù)和區(qū)塊鏈技術(shù)出現(xiàn)后，人們能夠通過爬梳并分析信息來源的賬號(hào)特征、文本特征、傳播路徑特征等信息，開展數(shù)據(jù)管理、追蹤和溯源，核實(shí)信息真實(shí)性。新冠疫情期間，社交媒體上混合著大量有關(guān)疫情擴(kuò)散與治療的信息，淹沒了可信任的信息來源，影響公眾的健康認(rèn)知和決策，形成“信息疫情”。[10]大數(shù)據(jù)和區(qū)塊鏈技術(shù)以分析高效、難篡改、易追蹤等優(yōu)勢(shì)，為真實(shí)防疫信息的共享和傳遞提供技術(shù)支撐。

三是用AI治理AI的新聞事實(shí)核查。人工智能推動(dòng)事實(shí)核查進(jìn)入新的發(fā)展階段，各國(guó)傳媒機(jī)構(gòu)和科技公司逐步探索“AI治理AI”模式。國(guó)際事實(shí)核查網(wǎng)絡(luò)（IFCN）等組織以及相關(guān)主題國(guó)際會(huì)議，推動(dòng)全球事實(shí)核查創(chuàng)新運(yùn)動(dòng)的制度化發(fā)展。其中，機(jī)器作為行動(dòng)者的角色受到重視。谷歌DeepMind團(tuán)隊(duì)和斯坦福大學(xué)研究人員開發(fā)的搜索增強(qiáng)事實(shí)評(píng)估器（Search-Augmented Factuality Evaluator, SAFE），可通過大型語言模型分解聊天機(jī)器人生成的文本，再分別核查其中所涉及的事實(shí)信息準(zhǔn)確性。相較于文字文本的核查，音頻檢測(cè)工具的發(fā)展應(yīng)用相對(duì)滯后。美國(guó)西北大學(xué)計(jì)算機(jī)科學(xué)教授蘇夫拉曼尼（V.S. Subrahmanian）開展人工智能音頻檢測(cè)實(shí)驗(yàn)，測(cè)試了14種現(xiàn)有、免費(fèi)且公開的音頻深度偽造檢測(cè)工具，結(jié)果卻不盡如人意。盡管目前使用AI工具識(shí)別深度偽造內(nèi)容的難度較大，但構(gòu)建行動(dòng)者網(wǎng)絡(luò)、開展人機(jī)協(xié)同、“AI治理AI”仍是發(fā)展趨勢(shì)。

二、人工智能技術(shù)的媒體采納帶來的行業(yè)焦慮

機(jī)器主體的參與給人類記者帶來職業(yè)發(fā)展憂慮。生成式人工智能融入新聞生產(chǎn)場(chǎng)域的過程，不是簡(jiǎn)單的“技術(shù)使用”，而是人類行動(dòng)者與非人類行動(dòng)者間的交互、協(xié)商與磨合。[11]面對(duì)新技術(shù)的沖擊，身處生產(chǎn)一線的記者和編輯能更加敏銳地捕捉到人機(jī)權(quán)力關(guān)系的變化與職業(yè)邊界的流動(dòng)。組織、制度、文化變革往往會(huì)滯后于技術(shù)采納，形成一段與技術(shù)發(fā)展不相匹配的轉(zhuǎn)型陣痛期。因此，面對(duì)生成式人工智能嵌入導(dǎo)致的新聞生產(chǎn)工作常規(guī)重構(gòu)、組織機(jī)制變革、新聞文化重塑，不少一線從業(yè)者表現(xiàn)出不同于機(jī)構(gòu)管理層的懷疑和冷漠，甚至是抗拒和抵制。[12]作為傳播主體的機(jī)器改變了以人為主體的傳播生態(tài)。記者與編輯要應(yīng)對(duì)行業(yè)內(nèi)外的雙重壓力，迎接包含機(jī)器生產(chǎn)者在內(nèi)的多元主體的挑戰(zhàn)。

生成式人工智能及相關(guān)技術(shù)的發(fā)展帶來高階智能社會(huì)的迷思。ChatGPT和Sora等便于交互、面向公眾的生成式人工智能出現(xiàn)，帶動(dòng)新的內(nèi)容創(chuàng)作和消費(fèi)方式流行。在Sora發(fā)布的女性漫步東京街頭的視頻中，人物在布滿霓虹燈牌和廣告牌的街頭走動(dòng)，五官和肢體動(dòng)作都較為自然。盡管Sora生成視頻中還存在著細(xì)節(jié)處理不夠精細(xì)、自然規(guī)律和文化理解錯(cuò)位、敘事邏輯斷裂等問題，它仍然承載著公眾對(duì)于高階智能社會(huì)的想象。

生成式人工智能的應(yīng)用加劇新聞傳播從業(yè)者的職業(yè)技能恐慌。生成式人工智能通過人機(jī)交互來產(chǎn)出內(nèi)容，因此需要國(guó)家、群體或個(gè)體具備一定的數(shù)字資源調(diào)用能力。生成式人工智能可以根據(jù)指令實(shí)現(xiàn)多模態(tài)文本轉(zhuǎn)換，進(jìn)一步降低了生產(chǎn)門檻，但也考驗(yàn)著使用者自身的綜合素質(zhì)。自主性的提升常被認(rèn)為具有賦權(quán)意味，例如提升個(gè)體傳播能力和彌合數(shù)字文明社會(huì)的能力溝，或是增強(qiáng)個(gè)體的知覺與連接能力等。[13]然而，技術(shù)擴(kuò)散會(huì)受到社會(huì)資本不平等的制約。“技術(shù)帶來的特權(quán)越來越多地只屬于那些負(fù)擔(dān)得起的人，特別是當(dāng)國(guó)家退出基礎(chǔ)設(shè)施和公共服務(wù)供給時(shí)。”[14]當(dāng)前，生成式人工智能的賦能所需的前置條件涵蓋語言能力、創(chuàng)意能力、信息獲取能力、技術(shù)使用素養(yǎng)和可接入設(shè)備條件等多方面。

三、生成式人工智能應(yīng)用于新聞傳播業(yè)的多元風(fēng)險(xiǎn)

生成式人工智能的新形態(tài)嵌入新聞傳播業(yè)，不僅會(huì)改變新聞生產(chǎn)、分發(fā)和接收環(huán)節(jié)，也會(huì)推動(dòng)相關(guān)制度和文化環(huán)境發(fā)生轉(zhuǎn)型。技術(shù)創(chuàng)新、制度創(chuàng)新與知識(shí)創(chuàng)新的時(shí)差，給新聞業(yè)帶來多元風(fēng)險(xiǎn)，并經(jīng)由信息傳播擴(kuò)散至其他社會(huì)領(lǐng)域。

（一）數(shù)字信任危機(jī)：信息真實(shí)性和可靠性下降

生成式人工智能參與信息生產(chǎn)，導(dǎo)致人類生成的版權(quán)內(nèi)容與AI生成內(nèi)容混雜。生成式人工智能的模型訓(xùn)練、內(nèi)容生產(chǎn)及生成物應(yīng)用環(huán)節(jié)，都存在著侵犯版權(quán)的風(fēng)險(xiǎn)，如未經(jīng)授權(quán)使用文本數(shù)據(jù)或者生成結(jié)果中模糊版權(quán)信息等。2024年2月，Raw Story、The Intercept、AlterNet等新聞機(jī)構(gòu)指控OpenAI及微軟的生成式人工智能刪除了文章作者和標(biāo)題等版權(quán)識(shí)別信息。無版權(quán)識(shí)別信息的人類產(chǎn)出內(nèi)容與人工智能生成內(nèi)容一同出現(xiàn)在信息流當(dāng)中，客觀上會(huì)對(duì)用戶產(chǎn)生誤導(dǎo)，干擾用戶對(duì)生成式人工智能可信度的判斷。

生成式人工智能加劇了深度偽造內(nèi)容泛濫。2024年初，世界經(jīng)濟(jì)論壇發(fā)布的《2024年全球風(fēng)險(xiǎn)報(bào)告》提出，“未來兩年全球十大風(fēng)險(xiǎn)”的首位是“人工智能生成的錯(cuò)誤信息和虛假信息”。[15]以深度偽造的負(fù)面使用為代表，生成式人工智能正在危害公民和國(guó)家安全。ChatGPT出現(xiàn)后不久，就被發(fā)現(xiàn)用強(qiáng)大的文本處理能力來拼湊、編造虛假信息，對(duì)用戶“一本正經(jīng)地胡說八道”。相比之前的Pika、Runway等視頻生成模型，Sora生成視頻時(shí)長(zhǎng)較長(zhǎng)、分辨率較高且在多角度多景別的鏡頭變換中能夠保持一定的主體一致性。脫離了生產(chǎn)主體等背景信息，許多人工智能生成內(nèi)容看起來與人類生產(chǎn)的內(nèi)容極為相似，幾乎能夠以假亂真。作為深度偽造最典型的應(yīng)用，“AI換臉”和音頻深度偽造也被用于欺詐和侵權(quán)。普通用戶利用公開數(shù)據(jù)和生成工具，就可以輕易生成政治名人、娛樂明星甚至普通社交媒體用戶的有害內(nèi)容，侵犯其名譽(yù)權(quán)和隱私權(quán)。鑒別深度偽造內(nèi)容和控制其傳播的成本遠(yuǎn)遠(yuǎn)高于生成成本，被侵犯者常常難以自證。此前，有用戶故意使用Elevenlabs公司的軟件來制作傳播種族主義言論的明星發(fā)言視頻。深度偽造的負(fù)面使用不僅僅是用戶的個(gè)人行為，平臺(tái)的內(nèi)容篩選、信息分發(fā)等設(shè)計(jì)也會(huì)產(chǎn)生引導(dǎo)作用。相較于圖像/視頻深度偽造內(nèi)容，音頻的制作成本和技術(shù)門檻更低，且缺少視覺線索，增加了鑒別難度。2024年1月，新奧爾良街頭魔術(shù)師保羅·卡彭特（Paul Carpenter）只花了20分鐘和1美元，偽造了美國(guó)總統(tǒng)拜登勸阻民主黨人投票的音頻。深度偽造音頻常常通過電話而非在線播放的形式傳播，其內(nèi)容難以被暫停、回放、留存和截取片段分析。

生成式人工智能的應(yīng)用，使“后真相”征候更加嚴(yán)重。傳統(tǒng)新聞生產(chǎn)中，新聞現(xiàn)場(chǎng)的人、物、環(huán)境等諸多要素，既是啟發(fā)記者進(jìn)行個(gè)性化表達(dá)的靈感來源，也是新聞?wù)鎸?shí)性的佐證。記者的身體在場(chǎng)和專業(yè)素養(yǎng)使現(xiàn)場(chǎng)變?yōu)樾侣劕F(xiàn)場(chǎng)，“將各類事情轉(zhuǎn)化為新聞事件”。[16]隨著互聯(lián)網(wǎng)成為信息傳播基礎(chǔ)設(shè)施，新聞傳播主體范圍拓展至非專業(yè)新聞機(jī)構(gòu)、普通社會(huì)個(gè)體甚至是機(jī)器。UGC和AIGC生產(chǎn)模式普及開來，使新聞生產(chǎn)規(guī)范受到?jīng)_擊。監(jiān)控?cái)z像頭和各類傳感器等媒介作為記者身體的延伸，開始代替記者進(jìn)入現(xiàn)場(chǎng)。“身體離場(chǎng)”的方式提升了新聞生產(chǎn)的效率，但也制約了“現(xiàn)場(chǎng)感”的表達(dá)和實(shí)證功能的發(fā)揮。[17]在融合傳播環(huán)境下，新聞的傳播和接收遷移到社交媒體平臺(tái)，新聞生產(chǎn)流程和新聞文化發(fā)生轉(zhuǎn)變。“流量為王”的利益驅(qū)動(dòng)機(jī)制以及信息核查的高昂成本，致使部分媒體轉(zhuǎn)而用制造同意替代追求真實(shí)。大量不以事實(shí)為基礎(chǔ)且信息、情感和立場(chǎng)混雜的復(fù)合體層出不窮。“后真相”征候頻繁出現(xiàn)，表現(xiàn)為“成見在前、事實(shí)在后，情緒在前、客觀在后，話語在前、真相在后，態(tài)度在前、認(rèn)知在后”[18]。訓(xùn)練數(shù)據(jù)庫(kù)中信息質(zhì)量良莠不齊，會(huì)影響人工智能生成內(nèi)容的質(zhì)量。在互動(dòng)過程中，生成式人工智能所“臆造”的內(nèi)容根據(jù)用戶要求不斷被改寫完善，變得更加難以辨別。