新聞中心首頁
新華社海南博鰲3月27日電 題:AI時代,如何讓治理跟上技術步伐?
新華社“新華視點”記者宋佳、王存福、劉開雄
從“AI兒科醫(yī)生”參與病情會診,到“AI數(shù)智員工”輔助提供公共服務,再到人形機器人進廠上班……全球人工智能技術進入爆發(fā)式發(fā)展階段,正以前所未有的速度走入千家萬戶、改變千行百業(yè)。當AI重塑我們熟悉的世界,隨之而來的機遇與挑戰(zhàn)如何應對?應用與治理如何平衡推進?
正在舉行的博鰲亞洲論壇2025年年會上,國內外技術前沿領域專家、學者和企業(yè)代表就相關話題展開熱烈討論。
適應AI“新常態(tài)”
當下,人工智能加速賦能千行百業(yè),進入教育、醫(yī)療、政務、金融等場景。越來越多人感受到AI帶來的便利。從無人駕駛、機器人到腦機接口,大眾對AI應用產(chǎn)生更多期待。
畢馬威中國首席技術官及創(chuàng)新主管合伙人劉建剛表示,人工智能已經(jīng)不是一個未來概念,對很多企業(yè)而言,利用人工智能加速決策、創(chuàng)新產(chǎn)品、優(yōu)化運營,已不是選擇題,而是必答題。
數(shù)據(jù)顯示,2024年我國完成備案并上線提供服務的生成式人工智能大模型接近200個,注冊用戶超6億;工業(yè)機器人裝機量占全球過半。
今年政府工作報告提出,持續(xù)推進“人工智能+”行動。國務院研究室副主任陳昌盛表示,今年將開展新技術新產(chǎn)品新場景大規(guī)模應用示范行動,在確保安全前提下,加快人工智能在低空經(jīng)濟、教育培訓、醫(yī)療健康等多場景應用。
中興通訊股份有限公司董事長李自學表示,當前人工智能通用型應用加速普及,但在行業(yè)領域還存在不好用、不易用、不會用等問題。應在通用基礎大模型上,結合不同行業(yè)應用場景需求,加強專屬領域定制與深度訓練,讓大模型成為懂行業(yè)的“能工巧匠”,促進人工智能與產(chǎn)業(yè)真正結合。
有觀點認為,未來可能出現(xiàn)自然人、機器人、數(shù)字人并存交互的社會形態(tài)。《博鰲亞洲論壇亞洲經(jīng)濟前景及一體化進程2025年度報告》指出,隨著人工智能技術的廣泛應用,部分行業(yè)就業(yè)受到嚴重影響。
“替代部分工作崗位是技術變革中的必然過程,有些崗位受影響,也會有新崗位出現(xiàn)!眝ivo高級副總裁、首席技術官施玉堅說,每個人都要通過學習不斷提升綜合素質,適應AI帶來的變化。
多位與會嘉賓表示,除了加強人工智能知識技能教育培訓,還應考慮制定新的社會保障政策,加強對受沖擊勞動者群體的兜底保障。
加固“安全護欄”
在博鰲亞洲論壇多場人工智能相關活動上,與會嘉賓普遍認為,隨著AI能力越來越強,AI不可控、被濫用等風險會越來越高,在推廣應用中要加固“安全護欄”。
社交平臺上,不少人吐槽AI一本正經(jīng)地胡說八道。清華大學公共管理學院院長朱旭峰表示,這是AI幻覺,指大模型有時混淆事實和虛構,在看似是事實的句子中插入錯誤細節(jié)。AI胡編亂造可能產(chǎn)生誤導,甚至會引發(fā)嚴重后果,特別是在醫(yī)療、金融、法律等對信息真實性和準確性要求極高的領域。
“技術暫時不成熟,我們不能因噎廢食!敝煨穹逭f,要加大對技術的開發(fā)和使用,推動AI幻覺等問題隨技術不斷進步逐步解決。
AI應用過程中需要使用大量數(shù)據(jù),數(shù)據(jù)安全與隱私保護備受公眾關注。多位與會嘉賓表示,現(xiàn)實中,具體應用場景下哪些數(shù)據(jù)必須收集,敏感信息數(shù)據(jù)如何避免泄露等,需要進一步明晰相關制度規(guī)則。
施玉堅認為,隨著AI技術的普及,企業(yè)對數(shù)據(jù)的依賴程度日益加深,如果不采取相應的安全措施,就可能造成數(shù)據(jù)泄露的風險!皵(shù)據(jù)要進行脫敏或加密處理,增強傳輸和存儲過程中的安全性!
AI技術的濫用誤用是顯著風險之一。有統(tǒng)計顯示,2024年全球發(fā)生的AI風險事件,超過30%與利用AI進行深度偽造相關。深度偽造名人形象、聲音進行虛假宣傳甚至詐騙不時見諸報端。
多位嘉賓表示,AI深度偽造現(xiàn)象層出不窮,主要在于造假成本低,追查、執(zhí)法成本大,應針對AI誤用濫用完善相關法律法規(guī),加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德爭議也不容忽視。中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構專家曾毅認為,倫理安全應作為人工智能大模型發(fā)展的“基因”,如何在追求技術進步的同時堅守道德底線,是需要共同面對的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關系!痹阏f,最新研究表明,可以在幾乎不影響人工智能大模型求解能力的同時,通過科學的方式提升其安全能力。
讓治理跟上技術步伐
如何讓治理跟上AI技術步伐?與會嘉賓表示,AI治理是一個全球性的復雜問題,需要達成世界共識,推動各領域相互協(xié)作。目前,主要經(jīng)濟體都在加速相關立法進程。
在AI治理中,中國堅持統(tǒng)籌發(fā)展和安全,有關部門已發(fā)布多項AI治理指導文件。其中,前不久發(fā)布的《人工智能生成合成內容標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題,推動由生成到傳播各環(huán)節(jié)的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來,政策制定者、企業(yè)家、科學家等利益相關方應聚在一起,建立共識,通過制定標準來應對AI帶來的治理挑戰(zhàn)。
“AI醫(yī)生”看病出了問題算誰的責任?當人工智能系統(tǒng)產(chǎn)生不良后果,如何確定責任歸屬也需進一步厘清!岸辔患钨e都提到一個觀點,不要讓人工智能完全代替人的決策,這是人工智能應用時必須注意的問題!痹阏f。
高質量數(shù)據(jù)是AI應用大規(guī)模落地的重要支撐,構建一個完善而成熟的數(shù)據(jù)市場也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認為,應根據(jù)實際情況,建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。
與會嘉賓表示,AI時代到來,要堅持應用與治理平衡、創(chuàng)新與監(jiān)管并重、全球化與本土化協(xié)同,防止數(shù)字鴻溝變成智能鴻溝,讓AI真正成為推動社會進步的普惠力量。
![]() |
![]() |
![]() |
![]() |
焦作網(wǎng)免責聲明: | |||||||
|
新華社海南博鰲3月27日電 題:AI時代,如何讓治理跟上技術步伐?
新華社“新華視點”記者宋佳、王存福、劉開雄
從“AI兒科醫(yī)生”參與病情會診,到“AI數(shù)智員工”輔助提供公共服務,再到人形機器人進廠上班……全球人工智能技術進入爆發(fā)式發(fā)展階段,正以前所未有的速度走入千家萬戶、改變千行百業(yè)。當AI重塑我們熟悉的世界,隨之而來的機遇與挑戰(zhàn)如何應對?應用與治理如何平衡推進?
正在舉行的博鰲亞洲論壇2025年年會上,國內外技術前沿領域專家、學者和企業(yè)代表就相關話題展開熱烈討論。
適應AI“新常態(tài)”
當下,人工智能加速賦能千行百業(yè),進入教育、醫(yī)療、政務、金融等場景。越來越多人感受到AI帶來的便利。從無人駕駛、機器人到腦機接口,大眾對AI應用產(chǎn)生更多期待。
畢馬威中國首席技術官及創(chuàng)新主管合伙人劉建剛表示,人工智能已經(jīng)不是一個未來概念,對很多企業(yè)而言,利用人工智能加速決策、創(chuàng)新產(chǎn)品、優(yōu)化運營,已不是選擇題,而是必答題。
數(shù)據(jù)顯示,2024年我國完成備案并上線提供服務的生成式人工智能大模型接近200個,注冊用戶超6億;工業(yè)機器人裝機量占全球過半。
今年政府工作報告提出,持續(xù)推進“人工智能+”行動。國務院研究室副主任陳昌盛表示,今年將開展新技術新產(chǎn)品新場景大規(guī)模應用示范行動,在確保安全前提下,加快人工智能在低空經(jīng)濟、教育培訓、醫(yī)療健康等多場景應用。
中興通訊股份有限公司董事長李自學表示,當前人工智能通用型應用加速普及,但在行業(yè)領域還存在不好用、不易用、不會用等問題。應在通用基礎大模型上,結合不同行業(yè)應用場景需求,加強專屬領域定制與深度訓練,讓大模型成為懂行業(yè)的“能工巧匠”,促進人工智能與產(chǎn)業(yè)真正結合。
有觀點認為,未來可能出現(xiàn)自然人、機器人、數(shù)字人并存交互的社會形態(tài)。《博鰲亞洲論壇亞洲經(jīng)濟前景及一體化進程2025年度報告》指出,隨著人工智能技術的廣泛應用,部分行業(yè)就業(yè)受到嚴重影響。
“替代部分工作崗位是技術變革中的必然過程,有些崗位受影響,也會有新崗位出現(xiàn)。”vivo高級副總裁、首席技術官施玉堅說,每個人都要通過學習不斷提升綜合素質,適應AI帶來的變化。
多位與會嘉賓表示,除了加強人工智能知識技能教育培訓,還應考慮制定新的社會保障政策,加強對受沖擊勞動者群體的兜底保障。
加固“安全護欄”
在博鰲亞洲論壇多場人工智能相關活動上,與會嘉賓普遍認為,隨著AI能力越來越強,AI不可控、被濫用等風險會越來越高,在推廣應用中要加固“安全護欄”。
社交平臺上,不少人吐槽AI一本正經(jīng)地胡說八道。清華大學公共管理學院院長朱旭峰表示,這是AI幻覺,指大模型有時混淆事實和虛構,在看似是事實的句子中插入錯誤細節(jié)。AI胡編亂造可能產(chǎn)生誤導,甚至會引發(fā)嚴重后果,特別是在醫(yī)療、金融、法律等對信息真實性和準確性要求極高的領域。
“技術暫時不成熟,我們不能因噎廢食。”朱旭峰說,要加大對技術的開發(fā)和使用,推動AI幻覺等問題隨技術不斷進步逐步解決。
AI應用過程中需要使用大量數(shù)據(jù),數(shù)據(jù)安全與隱私保護備受公眾關注。多位與會嘉賓表示,現(xiàn)實中,具體應用場景下哪些數(shù)據(jù)必須收集,敏感信息數(shù)據(jù)如何避免泄露等,需要進一步明晰相關制度規(guī)則。
施玉堅認為,隨著AI技術的普及,企業(yè)對數(shù)據(jù)的依賴程度日益加深,如果不采取相應的安全措施,就可能造成數(shù)據(jù)泄露的風險!皵(shù)據(jù)要進行脫敏或加密處理,增強傳輸和存儲過程中的安全性!
AI技術的濫用誤用是顯著風險之一。有統(tǒng)計顯示,2024年全球發(fā)生的AI風險事件,超過30%與利用AI進行深度偽造相關。深度偽造名人形象、聲音進行虛假宣傳甚至詐騙不時見諸報端。
多位嘉賓表示,AI深度偽造現(xiàn)象層出不窮,主要在于造假成本低,追查、執(zhí)法成本大,應針對AI誤用濫用完善相關法律法規(guī),加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德爭議也不容忽視。中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構專家曾毅認為,倫理安全應作為人工智能大模型發(fā)展的“基因”,如何在追求技術進步的同時堅守道德底線,是需要共同面對的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關系!痹阏f,最新研究表明,可以在幾乎不影響人工智能大模型求解能力的同時,通過科學的方式提升其安全能力。
讓治理跟上技術步伐
如何讓治理跟上AI技術步伐?與會嘉賓表示,AI治理是一個全球性的復雜問題,需要達成世界共識,推動各領域相互協(xié)作。目前,主要經(jīng)濟體都在加速相關立法進程。
在AI治理中,中國堅持統(tǒng)籌發(fā)展和安全,有關部門已發(fā)布多項AI治理指導文件。其中,前不久發(fā)布的《人工智能生成合成內容標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題,推動由生成到傳播各環(huán)節(jié)的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來,政策制定者、企業(yè)家、科學家等利益相關方應聚在一起,建立共識,通過制定標準來應對AI帶來的治理挑戰(zhàn)。
“AI醫(yī)生”看病出了問題算誰的責任?當人工智能系統(tǒng)產(chǎn)生不良后果,如何確定責任歸屬也需進一步厘清!岸辔患钨e都提到一個觀點,不要讓人工智能完全代替人的決策,這是人工智能應用時必須注意的問題。”曾毅說。
高質量數(shù)據(jù)是AI應用大規(guī)模落地的重要支撐,構建一個完善而成熟的數(shù)據(jù)市場也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認為,應根據(jù)實際情況,建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。
與會嘉賓表示,AI時代到來,要堅持應用與治理平衡、創(chuàng)新與監(jiān)管并重、全球化與本土化協(xié)同,防止數(shù)字鴻溝變成智能鴻溝,讓AI真正成為推動社會進步的普惠力量。
![]() |
|
![]() |
焦作網(wǎng)免責聲明: | |||||||
|
|
|