中新社北京3月4日電 題：AI“李鬼”迭出，代表委員建言人工智能治理

　　中新社記者 常濤

　　在履職過(guò)程中，全國(guó)人大代表、美的集團(tuán)副總裁兼首席財(cái)務(wù)官鐘錚注意到一種現(xiàn)象：網(wǎng)絡(luò)上有大量AI(人工智能)生成的視頻內(nèi)容，有的模仿明星或?qū)＜业男蜗蠛吐曇?，有的虛?gòu)人設(shè)、推銷(xiāo)產(chǎn)品，誤導(dǎo)消費(fèi)者購(gòu)買(mǎi)不必要的商品，造成財(cái)產(chǎn)損失，甚至產(chǎn)生信任危機(jī)。

　　不光是視頻，伴隨人工智能技術(shù)快速進(jìn)步，文、視、圖、聲等的合成和制作門(mén)檻大幅降低，一些人工智能生成的內(nèi)容“李逵”“李鬼”難辨，給用戶帶來(lái)困擾。2025年全國(guó)兩會(huì)期間，多位代表委員對(duì)此現(xiàn)象予以關(guān)注，并提出建議。

　　鐘錚認(rèn)為，現(xiàn)在生成式人工智能在法律法規(guī)體系上仍不完善，特別是在界定AI生成內(nèi)容的版權(quán)歸屬，以及侵權(quán)責(zé)任認(rèn)定、隱私保護(hù)標(biāo)準(zhǔn)方面存在空白。此外，目前對(duì)于生成式人工智能視頻的審核，技術(shù)條件有限，還需要繼續(xù)完善技術(shù)手段。

　　全國(guó)人大代表，TCL創(chuàng)始人、董事長(zhǎng)李東生也關(guān)注到了“AI深度偽造欺詐治理”的話題，“生成式人工智能技術(shù)迅速發(fā)展，這個(gè)問(wèn)題的‘B面’——深度偽造技術(shù)也在快速發(fā)展，并可能帶來(lái)新的社會(huì)問(wèn)題?！?/p>

　　李東生表示，近年來(lái)，中國(guó)相關(guān)立法雖關(guān)注“AI深度偽造欺詐”這一議題，但已出臺(tái)的規(guī)章制度尚不成體系，還不具備可操作的細(xì)則和明確的處罰標(biāo)準(zhǔn)。

　　全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍也注意到了“AI換臉擬聲”帶來(lái)的問(wèn)題。他表示，不當(dāng)使用、濫用易引發(fā)侵犯肖像權(quán)、侵犯公民個(gè)人信息以及詐騙等犯罪行為。

　　全國(guó)政協(xié)委員、安徽省律師協(xié)會(huì)監(jiān)事長(zhǎng)周世虹在接受中新社記者采訪時(shí)介紹，中國(guó)于2023年8月起施行《生成式人工智能服務(wù)管理暫行辦法》(以下簡(jiǎn)稱《暫行辦法》)，從而形成以《暫行辦法》為核心，輔以數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等單行法的人工智能規(guī)范，但缺乏高位階的專門(mén)立法，覆蓋范圍有限，難以應(yīng)對(duì)技術(shù)發(fā)展可能引發(fā)的各種社會(huì)問(wèn)題。

　　周世虹建議將生成式人工智能納入專項(xiàng)立法，明確開(kāi)發(fā)者、運(yùn)營(yíng)者、用戶三方責(zé)任；完善監(jiān)管協(xié)同機(jī)制，建立網(wǎng)信、工信、公安等多部門(mén)聯(lián)動(dòng)的動(dòng)態(tài)監(jiān)管體系；設(shè)立AI生成內(nèi)容標(biāo)識(shí)制度，強(qiáng)制標(biāo)識(shí)AI生成內(nèi)容，防范虛假信息傳播。

　　關(guān)于生成式人工智能視頻傳播管理機(jī)制，鐘錚建議，修訂著作權(quán)法等相關(guān)法律法規(guī)，加強(qiáng)原創(chuàng)版權(quán)和隱私保護(hù)；利用AI技術(shù)審核AI合成的視頻內(nèi)容，同時(shí)投入更多資源開(kāi)發(fā)高效的AI審核工具，并結(jié)合人工審核，通過(guò)雙重校驗(yàn)提高識(shí)別準(zhǔn)確率等。

　　全國(guó)人大代表、科大訊飛董事長(zhǎng)劉慶峰表示，生成式人工智能存在幻覺(jué)，特別是深度推理模型的邏輯自洽性提升，使得AI生成內(nèi)容真假難辨。他建議，研究幻覺(jué)自動(dòng)分析的技術(shù)和軟件平臺(tái)，開(kāi)展幻覺(jué)自動(dòng)分析、AIGC(生成式人工智能)深度鑒偽、有害內(nèi)容識(shí)別以及互聯(lián)網(wǎng)傳播溯源，由相關(guān)部門(mén)定期清理幻覺(jué)數(shù)據(jù)，為公眾提供AIGC幻覺(jué)信息檢測(cè)工具與服務(wù)。(完)