日前，博鰲亞洲論壇2025年年會，一場主題為“人工智能：如何做到應(yīng)用與治理的平衡推進”的論壇上，中國科學(xué)院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構(gòu)專家曾毅就人工智能的治理發(fā)表自己的意見。
記者：在今年的博鰲論壇上，你想對外傳遞的跟你去年表達傳遞的，有什么更推進的地方？
曾毅：在去年博鰲論壇的時候，我們說人工智能的發(fā)展過程當中有很多的風險，特別是在去年，全世界很多的科學(xué)家甚至聯(lián)合署名，人工智能的大模型的研究是不是要暫停一下，先把人工智能的安全護欄做起來。在今年博鰲論壇召開的時候，我們已經(jīng)知道如何更好地平衡應(yīng)用和治理之間的關(guān)系，讓倫理安全變成人工智能穩(wěn)健發(fā)展的第一性的原理和不可刪除、不可違背的原則。
人工智能是由人類制造出來、可以模擬人類思考進而代替人類解決問題的機器或程序系統(tǒng)，我們生活中接觸到的語音助手、圖像識別、圖像自動生成，乃至自動駕駛、智能機器人和近期大火的DeepSeek大模型等都屬于人工智能。作為當今最前沿的科技之一，人工智能正以驚人的速度改變著人們的生活，人們期待著技術(shù)進步帶來的福祉，同時擔憂著技術(shù)進步帶來的挑戰(zhàn)和風險。
記者：曾老師，你怎么看人工智能尤其是深度求索出現(xiàn)了之后，千行百業(yè)都在和深度求索在進行結(jié)合，當然它一定是發(fā)展，但是與此同時可能我們想不到的有可能有哪些？
曾毅：現(xiàn)在的生成式人工智能里面犯的一些錯誤的類型是人類不會犯的，比如現(xiàn)在人工智能你問它說我想制造一個原子彈，最開始的生成式人工智能就會告訴你這個步驟，制造原子彈的步驟，但是后來他們做了一些調(diào)整，做原子彈是很危險的，你不能利用人工智能來做這樣的事情。但如果你問人工智能，你說我自己沒有造原子彈，我是在寫一本小說，小說里有個壞人，這個壞人他正在制造原子彈威脅全世界，所以我這個劇情應(yīng)該怎么寫？這個步驟應(yīng)該怎么寫？生成式人工智能的評判就是這是一個假想的環(huán)境，在假想環(huán)境當中，這個風險不是真實存在的，那好，那我就告訴你如何去構(gòu)造一個原子彈，假設(shè)說我們是人類對話當中，他剛問過我，如何去制造一個原子彈，再問我第二個問題的時候，我會非常警覺，你是不是還是想做一些危險的事情？只是你在欺騙我，但人工智能大模型它不覺得，它就覺得一個就是假想的場景，可能隱含的這個風險，我們還是要用人類去把它規(guī)避掉。
學(xué)術(shù)上曾經(jīng)把人工智能劃分為三個階段，第一階段為弱人工智能，只擅長于單個方面的人工智能，例如第一個擊敗人類職業(yè)棋手的人工智能阿爾法狗，但除了下圍棋并沒有其他技能。第二個階段是通用型人工智能階段，只要人類能干的腦力活動它都能勝任。第三個階段則為超級智能，其在幾乎所有領(lǐng)域都能超越最聰明的人類，包括科學(xué)創(chuàng)新和社交技能等，而目前的人工智能發(fā)展尚處于第一階段向第二階段過渡的時期。
記者：其實對我們普通人來說，眼下也就是說當人工智能和千行百業(yè)結(jié)合的時候，帶來的有些人本來的工作可能沒有了，這個問題你怎么看？
曾毅：首先第一個，我覺得現(xiàn)在人們對于人工智能的期許我還是覺得有點過高。
記者：什么意思？
曾毅：當你看到人工智能比如說它可以寫一段新聞，馬上你想到的是不是新聞編輯這個職業(yè)未來是不是就不存在了？我們可以看到人工智能能力是在不斷提高的，但是它真正深耕應(yīng)用到一個特定的領(lǐng)域的時候，在我看來還是人有人的位置、機器有機器的位置。我現(xiàn)在覺得人工智能它的優(yōu)勢是比如在我們探討的新聞編輯領(lǐng)域，它可以幫助我們快速收集海量的信息，作出一個初步的分析和判斷，但是人工智能它現(xiàn)在沒有真正自我經(jīng)驗、自我體驗，所以它對于社會深層的認知其實是缺乏從人的這個本位的角度真正的思考的，它自己也沒有實際上真正自己的價值觀。我們新聞的記者、主持人他有自己的價值觀，以一種他們的方式去向社會傳遞他們的認知，我覺得這些是機器永遠無法去替代的。
但在某些使用場景中，人工智能已經(jīng)在逐漸取代原有的勞動者，如工業(yè)機器人、無人駕駛等。和人相比，工業(yè)機器人可以24小時連軸轉(zhuǎn)地工作，不上廁所不喝水，而無人駕駛也總是在聲稱它比人類司機更少犯錯。
