當前，全球人工智能（AI）正在加速發(fā)展，成為推動新一輪科技革命和產(chǎn)業(yè)變革的關鍵力量。人工智能技術的革命性突破既帶來極大便利，也引發(fā)一系列新問題新風險，給現(xiàn)有國家治理體系帶來極大挑戰(zhàn)。
2024年被廣泛認為是人工智能的元年，人工智能的研究與應用如雨后春筍般涌現(xiàn)，與之伴隨的是全球正加快推進人工智能監(jiān)管。
發(fā)展十分迅速
2024年人工智能的新技術不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應用加快拓展，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅動力量。
在醫(yī)療領域，人工智能開始參與“聽診”與“問診”，提前收集患者癥狀，形成初步病歷，協(xié)助完成初步診斷建議和分析，推薦治療方案。
在藝術創(chuàng)作領域，人工智能作為創(chuàng)作工具，打破了藝術創(chuàng)作的單一性與局限性，賦予了創(chuàng)作過程更高的自由度與無限可能性。從音樂、繪畫到電影，不同門類的藝術家紛紛開始學習和利用人工智能進行藝術探索。在音樂方面，前不久，人工智能音樂平臺Suno發(fā)布的V4版本再度引發(fā)關注與討論，用戶可以一鍵生成音質更高、時長更長的音樂，創(chuàng)作出具有獨特風格的音樂作品。在影視方面，今年年初，OpenAI發(fā)布文生視頻模型Sora，用戶能夠生成分辨率最高達1080p、時長最長達20秒，且具有寬屏、豎屏或方形寬高比的視頻。
在文化領域，虛實結合的人工智能技術，可以讓人瞬間穿越千年。裸眼3D、全息投影、VR虛擬、體感互動……時間和空間的限制被相繼打破，為文化的交流與傳播帶來了無限驚喜。比如，國家自然博物館打造的數(shù)字人及AR導覽項目，游客通過手機、平板或VR眼鏡等進入互動界面，可以選擇路線、數(shù)字領航員開啟探索之旅，除了常規(guī)展品，還可以看到AR特效展品。
在日常生活中，人工智能應用更是隨處可見，
智能家居、導航等領域均有運用。
面臨新的課題
與此同時，隨著生成式人工智能的快速發(fā)展，其在法律、安全、就業(yè)、道德倫理等方面也面臨著一系列新課題。
2024年初，大量由人工智能生成的泰勒虛假色情、血腥照片在多個社交平臺瘋傳，瀏覽量超過千萬，引發(fā)社交媒體震動。實際上這不是泰勒第一次成為人工智能“深度偽造”的受害者。就在不久前，有人使用人工智能技術仿造了她的聲音和形象來為商品進行推廣，讓消費者誤以為這是泰勒代言的商品。
而在韓國，隨著人工智能技術的不斷發(fā)展，使用“深偽”技術制作虛假視頻更加方便。據(jù)韓國媒體報道，把女性面部合成到不雅視頻中并大肆傳播的“深度偽造性犯罪”，已在韓國女性中引起極大恐慌。
不僅如此，生成式人工智能也存在損害數(shù)據(jù)隱私、侵犯版權等方面的隱憂。人工智能科技公司數(shù)據(jù)采集過程的合法合規(guī)問題突出。
美國知名作家尼古拉斯?巴斯貝恩和尼古拉斯?蓋奇向紐約曼哈頓聯(lián)邦地區(qū)法院提起集體訴訟，指控美國微軟公司和美國人工智能公司“開放人工智能研究中心”（OpenAI）侵犯了他們以及其他作家的版權。他們在訴訟中稱，微軟和OpenAI使用他們書中的信息來訓練包括聊天機器人ChatGPT在內的人工智能產(chǎn)品，這兩家公司的行為構成“對版權作品的惡意大規(guī)模竊取”。訴訟稱，微軟和OpenAI既沒有獲得許可，也沒有給予賠償，“竊取”作家們的作品，用于建立價值數(shù)十億美元的商業(yè)，這是令人無法容忍的。
今年中國廣州互聯(lián)網(wǎng)法院作出判決的全球AIGC侵權第一案，北京互聯(lián)網(wǎng)法院審理的國內首例“AI文生圖”著作權的侵權案以及前不久全國首例人工智能生成聲音人格權侵權案，這些案件都在生成式人工智能領域、知識產(chǎn)權以及傳統(tǒng)意義上的人身權等問題產(chǎn)生了緊密的關聯(lián)。
監(jiān)管勢在必行
生成式人工智能如此迅猛的發(fā)展帶來新技術突破和產(chǎn)業(yè)變革的同時，其引發(fā)的安全風險也對監(jiān)管和治理提出新要求。這一年，世界范圍內，各主要經(jīng)濟體醞釀多年的人工智能立法實踐陸續(xù)進入成熟期。
5月21日，歐盟理事會正式批準《人工智能法案》。外界普遍認為，作為全球首部全面的人工智能法規(guī)，《人工智能法案》實施后將對全球人工智能產(chǎn)業(yè)鏈產(chǎn)生深遠影響。總體上，《人工智能法案》在適用范圍、人工智能系統(tǒng)風險分級管理、通用人工智能模型管理、執(zhí)法與處罰等方面，為整個人工智能產(chǎn)業(yè)鏈上的相關方提供了一個合規(guī)義務框架。
英國科學、創(chuàng)新和技術部于2月向英國議會提交《人工智能監(jiān)管的創(chuàng)新方法：政府的回應》，明確其目標是成為人工智能安全開發(fā)和部署的全球領導者。7月11日，美國國會通過《內容來源保護和防止編輯和深度偽造媒體完整性法案》，旨在解決人工智能生成內容的“深度偽造”泛濫問題。法案正在等待總統(tǒng)簽署成為正式法律，尚未正式生效，但已經(jīng)獲得多方支持。法國數(shù)據(jù)監(jiān)管機構法國國家信息與自由委員會7月12日發(fā)布首批關于人工智能系統(tǒng)發(fā)展的建議，詳細說明歐盟《人工智能法案》與《通用數(shù)據(jù)保護條例》如何相互作用。
作為負責任的人工智能大國，中國在大力推進人工智能創(chuàng)新發(fā)展的同時，積極致力于為國際社會提供更多公共產(chǎn)品，以開放姿態(tài)開展人工智能國際交流合作，為全球人工智能發(fā)展和治理作出積極探索，貢獻了建設性思路和方案。
7月，2024世界人工智能大會暨人工智能全球治理高級別會議在中國上海舉辦。會議通過的《人工智能全球治理上海宣言》倡導建立全球范圍內的人工智能治理機制，支持聯(lián)合國發(fā)揮主渠道作用，歡迎加強南北合作和南南合作，提升發(fā)展中國家的代表性和發(fā)言權；鼓勵國際組織、企業(yè)、研究機構、社會組織和個人等多元主體積極發(fā)揮與自身角色相匹配的作用，參與人工智能治理體系的構建和實施。
此外，中國和美國、法國等建立高層級對話機制。2024年5月，中美人工智能政府間對話首次會議成功舉行。2024年5月7日，中法兩國發(fā)布《中華人民共和國和法蘭西共和國關于人工智能和全球治理的聯(lián)合聲明》。在今年召開的第78屆聯(lián)合國大會上，143個聯(lián)合國會員國以協(xié)商一致方式通過了中方主提的“加強人工智能能力建設國際合作”決議。這是全球首個聚焦人工智能能力建設的共識性文件。
有分析指出，2024年全球人工智能治理的發(fā)展場景，展示了各國在應對技術進步與倫理挑戰(zhàn)的共同努力。隨著善用人工智能系統(tǒng)的共識不斷擴大，社會各界需繼續(xù)推進相關法律法規(guī)的制定。
