5月9日，新京報貝殼財經(jīng)記者獲悉，經(jīng)北京市民政局批復(fù)，北京市經(jīng)信局作為主管單位，北京前瞻人工智能安全與治理研究院正式成立。

前瞻研究院將發(fā)揮科研機構(gòu)與智庫平臺的雙重作用

北京前瞻人工智能安全與治理研究院院長曾毅對記者表示，此前研究院以“北京人工智能安全與治理實驗室”的組織形式籌建與運行了半年多，考慮機構(gòu)和成果的延續(xù)性，英文名稱沿用實驗室時期的Beijing Institute of AI Safety and Governance (簡稱Beijing-AISI)。作為新型研發(fā)機構(gòu)和促進(jìn)應(yīng)用與產(chǎn)業(yè)發(fā)展的前瞻研究院以前瞻思想為引領(lǐng)，服務(wù)于人工智能產(chǎn)業(yè)發(fā)展和安全治理的近期與長遠(yuǎn)需求，通過開展人工智能安全與治理相關(guān)前沿基礎(chǔ)理論研究、關(guān)鍵技術(shù)研發(fā)、標(biāo)準(zhǔn)規(guī)范制定、平臺工具構(gòu)建與服務(wù)，有效監(jiān)測和防范人工智能的技術(shù)和社會風(fēng)險，為企業(yè)、社會和政府提供人工智能安全護(hù)欄與安全人工智能模型與服務(wù)。

前瞻研究院將發(fā)揮科研機構(gòu)與智庫平臺的雙重作用，產(chǎn)出人工智能安全與治理相關(guān)的前瞻引領(lǐng)科學(xué)思想、制度與政策建議，并以科學(xué)與技術(shù)進(jìn)展進(jìn)行落地賦能與實踐，以安全與治理促進(jìn)人工智能的可持續(xù)發(fā)展。

曾毅表示，美、英、日、韓、法、加、新等全球十?dāng)?shù)個國家分別成立了人工智能安全有關(guān)的研究院所與中心，以及諸多人工智能安全相關(guān)社會組織。作為中國這樣負(fù)責(zé)任的創(chuàng)新大國中人工智能科技領(lǐng)先的城市之一，北京不僅要有所作為，在人工智能安全領(lǐng)域發(fā)揮頭雁作用，更要在國際合作中團(tuán)結(jié)國內(nèi)兄弟單位擔(dān)當(dāng)中堅力量。

作為來自中國的機構(gòu)，從籌建期的北京人工智能安全與治理實驗室到正式成立的北京前瞻人工智能安全與治理研究院，在全球人工智能安全與治理議題上發(fā)揮了獨特的作用。近期，前瞻研究院受邀在新加坡人工智能大會(SCAI 2025)介紹研究成果并組織專題研討，有關(guān)超級對齊的研究成果被大會成果文件《新加坡人工智能安全研究優(yōu)先事項共識(The Singapore Consensus on Global AI Safety Research Priorities)》正面引用，在人工智能安全與治理的國際合作與交流中做出了有特色的貢獻(xiàn)。

安全是護(hù)欄治理是方向盤

無論是籌建期的“北京人工智能安全與治理實驗室”還是正式成立的“北京前瞻人工智能安全與治理研究院”，為何其并沒有像國外的機構(gòu)一樣只是強調(diào)了安全?對此，曾毅表示安全是護(hù)欄、必要時候的剎車，而治理不僅是風(fēng)險防范，更是方向盤，引導(dǎo)人工智能應(yīng)當(dāng)向什么方向發(fā)展，不應(yīng)當(dāng)進(jìn)行何種誤用、濫用甚至是惡用。

“北京前瞻人工智能安全與治理研究院既是在各級政府機構(gòu)支持下成立的新型研發(fā)機構(gòu)，更是人工智能安全與治理科技與社會力量匯聚的平臺。前瞻研究院發(fā)源并落地于中關(guān)村門頭溝園京西智谷，匯聚了來自中國科學(xué)院自動化研究所、中國信息通信研究院、北京大學(xué)、清華大學(xué)、北京郵電大學(xué)等科研團(tuán)隊力量開展深度合作，并聯(lián)合中科聞歌、昇騰創(chuàng)新、瑞萊智慧、芯盾時代、智慧云測等人工智能與安全企業(yè)共同開展人工智能安全研究與治理實踐，積極構(gòu)筑全球化交流平臺，建立健全覆蓋技術(shù)研發(fā)、風(fēng)險評估、倫理審查、應(yīng)急處置的全鏈條安全治理體系?！痹阏f。

曾毅表示，希望與更多的機構(gòu)、企業(yè)、地方與各個國家形成深度合作，前瞻院必將為北京、為國家的人工智能安全與治理體系貢獻(xiàn)中堅力量，為全球人工智能安全與治理的協(xié)作與合作貢獻(xiàn)中國聲音，以安全與治理引領(lǐng)人工智能的穩(wěn)健發(fā)展，為全人類與我們共同的未來。

新京報貝殼財經(jīng)記者 羅亦丹

編輯 張曉翀 校對 陳荻雁