自2023年起，被外界譽為“人工智能教父”的杰弗里?辛頓每年都會在公開場合發(fā)出關于AI的警告。
那一年，他提醒人們，AI的發(fā)展將帶來越來越大的風險。
2024年，他聲稱，AI將操控人類。
2025年，他在上海舉辦的世界人工智能大會上，將人類與AI的關系形容為“把小老虎當寵物”――當幼虎長大后，很可能傷人。
近日，2025世界機器人大會在北京亦莊舉行，各類機器人刮起運動旋風。
如今，在AI帶來的蓬勃機遇面前，越來越多的人并非害怕技術本身，而是擔心自己無法掌握方向盤。
人工智能的發(fā)展正以難以預測的速度推進，而治理機制和國際共識仍然滯后。
面對這場技術變革，中國正在給出自己的方案――不僅考慮如何發(fā)展，更著眼于如何在發(fā)展中確保安全、在競爭中尋求合作。
其一是保證人工智能健康有序發(fā)展。
“不發(fā)展是最大的不安全。”幾周前的中國互聯網大會上，清華大學智能法治研究院院長申衛(wèi)星的這句話，引起了業(yè)內共鳴。
他認為，當前在人工智能領域，不能因為治理或立法，扼殺掉產業(yè)發(fā)展的機會?！暗斯ぶ悄芤泊_實必須保證健康有序發(fā)展，這個底線是應該明確的?！?
業(yè)內普遍認為，人工智能領域的治理，應在設定明確底線的前提下，為發(fā)展留出充足的空間。而鼓勵創(chuàng)新應該作為人工智能治理的第一原則。
近期召開的國務院常務會議明確指出，當前人工智能技術加速迭代演進，要深入實施“人工智能+”行動，大力推進人工智能規(guī)?；虡I(yè)化應用，推動人工智能在經濟社會發(fā)展各領域加快普及、深度融合，形成以創(chuàng)新帶應用、以應用促創(chuàng)新的良性循環(huán)。
其二是加快形成多元協(xié)同治理格局。
治理的目標不僅是防范風險，更要讓技術在可控范圍內釋放最大價值。國務院常務會議提出，要提升安全能力水平，加快形成動態(tài)敏捷、多元協(xié)同的人工智能治理格局。
中國社會科學院法學研究所網絡與信息法研究室副主任周輝對三里河表示，人工智能技術屬于顛覆性技術，在治理過程中，需要將一致性評估、合規(guī)性審查等引入人工智能監(jiān)管機制。同時，考慮到人工智能發(fā)展速度不斷加快，應適應性地構建敏捷治理機制。
此外，由于人工智能技術在全球各領域都會產生深遠影響，其發(fā)展和應用帶來的風險與挑戰(zhàn)往往是跨越國界的，治理更需國際合作。對此，中國是倡導者也是積極實踐者。
中國工程院院士鄔賀銓在2025互聯網安全大會上指出，數字空間是人類共同的新家園，人工智能與數字安全的挑戰(zhàn)是全球性的，單打獨斗無法應對。
復旦大學中國研究院副研究員劉典認為，中國應摒棄個別國家的“小院高墻”政策，通過“一帶一路”等多雙邊框架，推動AI技術務實合作。
中國社會科學院法學研究所教授姚佳表示，打造一個全方位、多層次、匯聚廣泛共識，具有包容性、平等性和多元性的人工智能治理框架，應是各國未來合作的重要方向。
其三是讓技術解決技術的挑戰(zhàn)。
面對人工智能帶來的新挑戰(zhàn)，傳統(tǒng)、被動、碎片化的安全防護已力不從心，亟須變革。
鄔賀銓曾多次表示，要創(chuàng)新升級數字安全防護體系，構建AI驅動的主動免疫。
2025世界人工智能大會期間，辛頓呼吁人類探索通用AI訓練方法，使人工智能向善。
上海人工智能實驗室主任周伯文指出，在面對長期風險，特別是管理可能超越人類智能的智能體時，要轉向“內生安全”的新思路，即從“讓人工智能變得安全”(Make AI Safe)邁向“打造安全的人工智能”(Make Safe AI)。前者是后置性的安全補丁，缺乏敏捷性和韌性；后者則強調安全的內生性和原生性。
人工智能的未來，并不只是關于算力的競賽。更重要的是，誰能在技術創(chuàng)新與規(guī)則之間找到平衡，誰就有可能贏得真正的主動。
中國正在給出的答案，是一條兼顧發(fā)展、治理與技術安全的道路。
