近日,工業(yè)和信息化部辦公廳印發(fā)《關(guān)于公布算力強基揭榜行動入圍名單的通知》,北京經(jīng)濟技術(shù)開發(fā)區(qū)(簡稱北京經(jīng)開區(qū),又稱北京亦莊)企業(yè)北京后摩智能科技有限公司(以下簡稱“后摩智能”)申報的“高能效比邊端側(cè)大模型推理加速處理器”成功入圍。這標(biāo)志著后摩智能在智能算力領(lǐng)域創(chuàng)新實力獲“國家級”權(quán)威認可,也彰顯了北京經(jīng)開區(qū)在構(gòu)建全域人工智能之城、推動國產(chǎn)高性能芯片技術(shù)攻關(guān)再次取得重要突破。
算力強基揭榜行動是工業(yè)和信息化部為夯實算力網(wǎng)絡(luò)發(fā)展底座,加快創(chuàng)新技術(shù)和產(chǎn)品應(yīng)用,推動算力網(wǎng)絡(luò) “點、鏈、網(wǎng)、面” 體系化發(fā)展的重要舉措。該行動面向算力網(wǎng)絡(luò)的計算、存儲、網(wǎng)絡(luò)、應(yīng)用、綠色、安全等六大重點方向,旨在發(fā)掘一批掌握關(guān)鍵核心技術(shù)、具備較強創(chuàng)新能力的企事業(yè)單位,突破一批標(biāo)志性技術(shù)產(chǎn)品和方案。
后摩智能此次入圍的“高能效比邊端側(cè)大模型推理加速處理器”,精準(zhǔn)瞄準(zhǔn)了當(dāng)前人工智能大模型在邊端設(shè)備應(yīng)用場景中對高性能、低功耗算力的迫切需求,基于創(chuàng)新的存算一體架構(gòu),可實現(xiàn)顯著的能效提升和推理加速,為大模型的廣泛應(yīng)用提供有力支持。
“該處理器基于后摩智能自主研發(fā)的數(shù)字存內(nèi)計算技術(shù),采用非馮?諾依曼架構(gòu),有效突破了傳統(tǒng)芯片設(shè)計面臨的‘存儲墻’及‘功耗墻’瓶頸,實現(xiàn)計算單元與存儲單元的集成,在存儲單元內(nèi)完成部分或全部運算。”后摩智能相關(guān)負責(zé)人進一步介紹道,“基于自主研發(fā)的存算一體創(chuàng)新IP,該處理器可滿足多精度、大算力、高有效帶寬等需求,計算效率大幅提升:單位面積內(nèi)所能支持的算力大小較傳統(tǒng)架構(gòu)實現(xiàn)3倍以上提升,且在相同算力下,AI部分功耗更可降低1—2個數(shù)量級。”
在應(yīng)用層面,該處理器可廣泛應(yīng)用于PC類(筆記本、臺式電腦)移動設(shè)備、邊緣計算盒子、信創(chuàng)一體機等邊端計算領(lǐng)域。其關(guān)鍵優(yōu)勢在于無需聯(lián)網(wǎng)即可本地部署應(yīng)用大模型,在充分確保數(shù)據(jù)隱私安全的同時,高效滿足本地長文本摘要、文案創(chuàng)作、知識庫構(gòu)建、數(shù)字人互動及多模態(tài)等多元化需求,有力推動工業(yè)、信創(chuàng)、消費等領(lǐng)域的智能化升級和規(guī)?;瘧?yīng)用。
作為國內(nèi)存算一體AI芯片領(lǐng)域的先鋒企業(yè),后摩智能于2020年注冊成立,致力于通過顛覆式創(chuàng)新技術(shù)推動AI算力普惠。展望未來,該負責(zé)人表示,后摩智能將進一步加大技術(shù)創(chuàng)新力度,充分發(fā)揮存算一體架構(gòu)天然的高能效、低成本優(yōu)勢,瞄準(zhǔn)大模型在智能終端推理應(yīng)用中面臨的算力瓶頸、帶寬瓶頸和成本問題,著力推動實現(xiàn)全國產(chǎn)化人工智能芯片在智能終端等領(lǐng)域的規(guī)?;瘧?yīng)用,為北京亦莊建成全域人工智能之城提供有力支撐。
編輯:張紫怡