达摩院首席科学家孟建熠：模型创新为算力架构带来新机会

AI时代架构创新不断涌现，而DeepSeek的出现为整个AI市场带来了全新活力。近日，达摩院首席科学家、知合计算CEO孟建熠在2025玄铁RISC-V生态大会上表示，DeepSeek在一定程度上改变了行业对AI硬件架构的诉求，模型持续创新是所有算力架构的机会。对RISC-V发展而言，打造标杆产品是关键。

DeepSeek让大模型从云走向端

孟建熠表示，DeepSeek问世之后，业界中产生了三方面不同观点的争论：一是开源架构与闭源架构谁更好。DeepSeek证明了开源架构也有很好的表现。二是该用Dense模型还是MoE模型。前者是通用全能的模型，后者是更好的专家模型，二者各有所长。三是算力敏感与内存容量敏感之争。之前模型对算力的需求非常大，现在是容量很大，算力下降了，所以内存容量成为一项关键指标。

“DeepSeek在一定程度上改变了大家对AI硬件架构的诉求。”孟建熠认为。

模型深度优化为算力架构带来了全新可能。具体而言，一是MoE模型，以更低激活比达成更低的计算成本，并使模型的单机部署成为可能。二是稀疏计算与模型压缩技术，识别并跳过模型中不重要的计算节点（如权重接(jiē)近(jìn)零(líng)的(de)部(bù)分(fēn)节(jié)点(diǎn)），同(tóng)时(shí)结(jié)合(hé)模(mó)型(xíng)压(yā)信(xìn)技(jì)术(shù)减(jiǎn)少(shǎo)参(cān)数(shù)量(liàng)。三(sān)是(shì)混(hùn)合(hé)精(jīng)度(dù)计(jì)算(suàn)与(yǔ)量(liàng)化(huà)技(jì)术(shù)，浮(fú)点(diǎn)计(jì)算(suàn)转(zhuǎn)化(huà)为(wèi)低(dī)精(jīng)度(dù)计(jì)算(suàn)（如(rú)INT8、FP8、FP16），同(tóng)时(shí)保(bǎo)持(chí)模(mó)型(xíng)精(jīng)度(dù)。四(sì)是(shì)动(dòng)态(tài)计(jì)算(suàn)图(tú)优(yōu)代(dài)技(jì)术(shù)，实(shí)时(shí)调(diào)整(zhěng)计(jì)算(suàn)结(jié)构(gòu)减(jiǎn)少(shǎo)冗(rǒng)余(yú)计(jì)算(suàn)。五(wǔ)是(shì)内(nèi)存(cún)优(yōu)化(huà)与(yǔ)数(shù)据(jù)流(liú)重(zhòng)构(gòu)技(jì)术(shù)，减(jiǎn)少(shǎo)内(nèi)存(cún)访(fǎng)问(wèn)延(yán)迟(chí)以(yǐ)及(jí)數(shù)掘(jué)传(chuán)输(shū)开(kāi)销(xiāo)。六(liù)是(shì)分(fēn)布(bù)式(shì)计(jì)算(suàn)与(yǔ)负(fù)载(zài)均(jūn)衡(héng)技(jì)术(shù)，将(jiāng)大(dà)规(guī)模(mó)模(mó)型(xíng)推(tuī)理(lǐ)任(rèn)务(wu)拆(chāi)分(fēn)到(dào)多(duō)个(gè)计(jì)算(suàn)节(jié)点(diǎn)，并(bìng)通(tōng)过(guò)负(fù)载(zài)均(jūn)衡(héng)技(jì)术(shù)优(yōu)化(huà)任(rèn)务(wu)分(fēn)配(pèi)。

DeepSeek的(de)出(chū)现(xiàn)，推(tuī)动(dòng)行(xíng)业(yè)更(gèng)加(jiā)关注(zhù)底(dǐ)层(céng)硬(yìng)件(jiàn)能(néng)力(lì)的(de)适(shì)配(pèi)。“在(zài)很(hěn)长(zhǎng)一(yī)段(duàn)时(shí)间(jiān)里(lǐ)，大(dà)家(jiā)都(dōu)喜(xǐ)欢(huan)喜(xǐ)欢(huan)‘大(dà)炮(pào)打(dǎ)蚊(wén)子(zi)’，当(dāng)然(rán)这(zhè)样(yàng)是(shì)效(xiào)率(lǜ)很(hěn)高(gāo)。但(dàn)是(shì)今(jīn)天(tiān)我(wǒ)们(men)有(yǒu)了(le)一(yī)个(gè)新(xīn)思(sī)路——可(kě)以(yǐ)用(yòng)软(ruǎn)硬(yìng)件(jiàn)融(róng)合(hé)的(de)视(shì)角(jiǎo)来(lái)看(kàn)待(dài)整(zhěng)个(gè)AI的(de)发(fā)展(zhǎn)。”孟(mèng)建(jiàn)熠(yì)强(qiáng)调(diào)，算(suàn)力(lì)、内(nèi)存(cún)、互(hù)联(lián)之(zhī)间(jiān)原(yuán)有(yǒu)的(de)平(píng)衡(héng)发(fā)生(shēng)了(le)剧(jù)变(biàn)，对(duì)于(yú)新(xīn)的(de)算(suàn)力(lì)架(jià)构(gòu)机(jī)会(huì)而(ér)言(yán)，大(dà)家(jiā)再(zài)次(cì)进(jìn)入(rù)同(tóng)一(yī)起(qǐ)跑(pǎo)线(xiàn)。同(tóng)时(shí)，开(kāi)源(yuán)大(dà)模(mó)型(xíng)单(dān)机(jī)部(bù)署(shǔ)成(chéng)为(wèi)可(kě)能(néng)，进(jìn)一(yī)步(bù)推(tuī)动(dòng)实(shí)际(jì)应(yīng)用(yòng)落(luò)地(de)。

另(lìng)一(yī)个(gè)趋(qū)势(shì)是(shì)大(dà)模(mó)型(xíng)走(zǒu)向(xiàng)趋(qū)同(tóng)，帮(bāng)助(zhù)算(suàn)子(zi)收(shōu)敛(liǎn)。值(zhí)得(de)关注(zhù)的(de)是(shì)，大(dà)模(mó)型(xíng)的(de)参(cān)数(shù)量(liàng)和(hé)计(jì)算(suàn)量(liàng)巨(jù)大(dà),但(dàn)如(rú)今(jīn)算(suàn)子(zi)的(de)个(gè)数(shù)在(zài)逐(zhú)步(bù)收(shōu)敛(liǎn)，主要(yào)以(yǐ)矩(ju)阵(zhèn)计(jì)算(suàn)为(wèi)中(zhōng)心(xīn)，而(ér)且(qiě)通(tōng)过(guò)开(kāi)源(yuán)相(xiāng)互(hù)学(xué)习(xí)正(zhèng)在(zài)走(zǒu)向(xiàng)趋(qū)同(tóng)。

从(cóng)云(yún)端(duān)协(xié)同(tóng)的(de)层(céng)面(miàn)，DeepSeek帮(bāng)助(zhù)大(dà)模(mó)型(xíng)从(cóng)云(yún)走(zǒu)向(xiàng)端(duān)，由(yóu)此(cǐ)也(yě)带(dài)来(lái)了(le)几(jǐ)个(gè)变(biàn)化(huà)：一(yī)是(shì)从(cóng)算(suàn)力(lì)瓶(píng)颈(jǐng)变(biàn)为(wèi)存(cún)储(chǔ)的(de)带(dài)宽(kuān)和(hé)容(róng)量(liàng)瓶(píng)颈(jǐng)，容(róng)量(liàng)瓶(píng)颈(jǐng)成(chéng)为(wèi)全量(liàng)大(dà)模(mó)型(xíng)最(zuì)关键的(de)因(yīn)素(sù)，比(bǐ)如(rú)671B大(dà)模(mó)型(xíng)。二(èr)是(shì)降(jiàng)低(dī)计(jì)算(suàn)资(zī)源(yuán)需(xū)求(qiú)，让(ràng)几(jǐ)T、几(jǐ)十(shí)T和(hé)几(jǐ)百(bǎi)T的(de)算(suàn)力(lì)成(chéng)为(wèi)可(kě)能(néng)。三(sān)是(shì)实(shí)现(xiàn)单(dān)机(jī)部(bù)署(shǔ)的(de)可(kě)能(néng)，能(néng)够(gòu)让(ràng)开(kāi)源(yuán)模(mó)型(xíng)被(bèi)更(gèng)多(duō)私(sī)有(yǒu)数(shù)据(jù)优(yōu)化(huà)，形(xíng)成(chéng)私(sī)有(yǒu)解(jiě)决(jué)方(fāng)案(àn)。四(sì)是(shì)支(zhī)持(chí)边(biān)缘(yuán)设(shè)备(bèi)，使(shǐ)得(de)高(gāo)性(xìng)能(néng)AI应(yīng)用(yòng)能(néng)够(gòu)在(zài)边(biān)缘(yuán)设(shè)备(bèi)上(shàng)顺(shùn)利(lì)运(yùn)行(xíng)。“大(dà)模(mó)型(xíng)在(zài)云(yún)端(duān)的(de)话(huà)，实(shí)施(shī)成(chéng)本(běn)比(bǐ)较(jiào)高(gāo)，只(zhǐ)有(yǒu)有(yǒu)限(xiàn)的(de)企(qǐ)业(yè)可(kě)能(néng)在(zài)部(bù)分(fēn)领(lǐng)域去(qù)应(yīng)用(yòng)，而(ér)一(yī)旦(dàn)到(dào)了(le)端(duān)侧(cè)，就(jiù)有(yǒu)大(dà)量(liàng)的(de)应(yīng)用(yòng)都(dōu)会(huì)发(fā)展(zhǎn)起(qǐ)来(lái)。”孟(mèng)建(jiàn)熠(yì)表(biǎo)示(shì)。

模(mó)型(xíng)创(chuàng)新(xīn)是(shì)算(suàn)力(lì)架(jià)构(gòu)的(de)机(jī)会(huì)

当(dāng)前(qián)算(suàn)力(lì)基(jī)础(chǔ)是(shì)以(yǐ)GPGPU(CUDA)为(wèi)代(dài)表(biǎo)的(de)传(chuán)统(tǒng)闭(bì)源(yuán)硬(yìng)件(jiàn)与(yǔ)生(shēng)态(tài)，而(ér)DeepSeek、Llama、Grok等(děng)开(kāi)源(yuán)大(dà)模(mó)型(xíng)不(bù)断(duàn)涌(yǒng)现(xiàn)，给(gěi)算(suàn)力(lì)架(jià)构(gòu)带(dài)来(lái)了(le)新(xīn)机(jī)会(huì)。当(dāng)然(rán)，这(zhè)个(gè)机(jī)会(huì)对(duì)所(suǒ)有(yǒu)架(jià)构(gòu)都(dōu)有(yǒu)效(xiào)，并(bìng)非(fēi)只(zhǐ)对(duì)RISC-V而(ér)言(yán)。如(rú)今(jīn)，这(zhè)些(xiē)开(kāi)源(yuán)模(mó)型(xíng)正(zhèng)在(zài)吸(xī)引(yǐn)更(gèng)多(duō)算(suàn)力(lì)架(jià)构(gòu)，包(bāo)括(kuò)X86、Arm这(zhè)样(yàng)的(de)传(chuán)统(tǒng)CPU架(jià)构(gòu)，DSA、ASIC这(zhè)样(yàng)的(de)自(zì)研(yán)架(jià)构(gòu)，以(yǐ)及(jí)以(yǐ)RISC-V为(wèi)代(dài)表(biǎo)的(de)开(kāi)源(yuán)架(jià)构(gòu)。“我(wǒ)们(men)都(dōu)在(zài)一(yī)个(gè)新(xīn)的(de)起(qǐ)点(diǎn)上(shàng)，现(xiàn)在(zài)就(jiù)看(kàn)谁(shuí)能(néng)够(gòu)跑(pǎo)得(de)快(kuài)。”孟(mèng)建(jiàn)熠(yì)说(shuō)道(dào)。

作(zuò)为(wèi)三(sān)大(dà)主流(liú)指(zhǐ)令(lìng)集架(jià)构(gòu)中(zhōng)最(zuì)灵(líng)活(huó)、最(zuì)开(kāi)放(fàng)的(de)一(yī)个(gè)，RISC-V适(shì)应(yīng)了(le)AI时(shí)代(dài)的(de)技(jì)术(shù)创(chuàng)新(xīn)节(jié)奏(zòu)。它(tā)在(zài)原(yuán)生(shēng)AI支(zhī)持(chí)上(shàng)，拥(yōng)有(yǒu)开(kāi)源(yuán)与(yǔ)开(kāi)放(fàng)架(jià)构(gòu)、更(gèng)易(yì)实(shí)现(xiàn)的(de)软(ruǎn)硬(yìng)件(jiàn)协(xié)同(tóng)设(shè)计(jì)、更(gèng)优(yōu)的(de)能(néng)效(xiào)比(bǐ)，以(yǐ)及(jí)覆(fù)盖(gài)全球(qiú)、不(bù)断(duàn)成(chéng)熟(shú)的(de)生(shēng)态(tài)。在(zài)孟(mèng)建(jiàn)熠(yì)看(kàn)来(lái)，“RISC-V架(jià)构(gòu)+AI”是(shì)以(yǐ)AI原(yuán)生(shēng)成(chéng)为(wèi)架(jià)构(gòu)创(chuàng)新(xīn)的(de)最(zuì)终(zhōng)答(dá)案(àn)。随(suí)着(zhe)开(kāi)源(yuán)RISG-V架(jià)构(gòu)的(de)快(kuài)速(sù)发(fā)展(zhǎn)，重(zhòng)新(xīn)自(zì)研(yán)架(jià)构(gòu)已(yǐ)意(yì)义(yì)不(bù)大(dà)，以(yǐ)RISC-V为(wèi)基(jī)础(chǔ)构(gòu)建(jiàn)处(chù)理(lǐ)芯(xīn)片(piàn)是(shì)未(wèi)来(lái)的(de)主流(liú)。

RISC-V在(zài)AI领(lǐng)域具(jù)备(bèi)很(hěn)高(gāo)的(de)包(bāo)容(róng)性(xìng)，可(kě)以(yǐ)支(zhī)持(chí)做(zuò)CPU/DSA，也(yě)支(zhī)持(chí)做(zuò)GPU、多(duō)核(hé)产(chǎn)品(pǐn)或(huò)者(zhě)近(jìn)内(nèi)存(cún)计(jì)算(suàn)。“大(dà)家(jiā)可(kě)以(yǐ)在(zài)硬(yìng)件(jiàn)上(shàng)不(bù)断(duàn)创(chuàng)新(xīn)，而(ér)生(shēng)态(tài)上(shàng)统(tǒng)一(yī)在(zài)RISC-V。尽(jǐn)管(guǎn)目(mù)前(qián)有(yǒu)不(bù)同(tóng)的(de)实(shí)践(jiàn)方(fāng)案(àn)，但(dàn)最(zuì)终(zhōng)一(yī)定(dìng)会(huì)走(zǒu)向(xiàng)生(shēng)态(tài)统(tǒng)一(yī)。”孟(mèng)建(jiàn)熠(yì)表(biǎo)示(shì)。

RISC-V如(rú)何(hé)真(zhēn)正(zhèng)走(zǒu)出(chū)来(lái)，是(shì)备(bèi)受(shòu)业(yè)界(jiè)关注(zhù)的(de)一(yī)个(gè)问(wèn)题(tí)。发(fā)展(zhǎn)至(zhì)今(jīn)，RISC-V生(shēng)态(tài)已(yǐ)经(jīng)慢(màn)慢(màn)建(jiàn)立(lì)起(qǐ)来(lái)，从(cóng)IoT等(děng)功(gōng)耗(hào)敏(mǐn)感(gǎn)型(xíng)场(chǎng)景(jǐng)向(xiàng)服(fú)务(wu)器(qì)等(děng)高(gāo)算(suàn)力(lì)场(chǎng)景(jǐng)成(chéng)长(zhǎng)，从(cóng)纯(chún)通(tōng)用(yòng)计(jì)算(suàn)向(xiàng)AI计(jì)算(suàn)与(yǔ)通(tōng)用(yòng)计(jì)算(suàn)融(róng)合(hé)成(chéng)长(zhǎng)，其(qí)中(zhōng)已(yǐ)经(jīng)有(yǒu)了(le)一(yī)些(xiē)标(biāo)杆(gān)性(xìng)产(chǎn)品(pǐn)。

打(dǎ)造(zào)标(biāo)杆(gān)产(chǎn)品(pǐn)是(shì)RISC-V成(chéng)长(zhǎng)路径的(de)关键环(huán)节(jié)。孟(mèng)建(jiàn)熠(yì)指(zhǐ)出(chū)，RISC-V发(fā)展(zhǎn)中(zhōng)的(de)一(yī)个(gè)新(xīn)趋(qū)势(shì)是(shì)从(cóng)“小(xiǎo)标(biāo)杆(gān)产(chǎn)品(pǐn)”向(xiàng)“大(dà)标(biāo)杆(gān)产(chǎn)品(pǐn)”成(chéng)长(zhǎng)，引领软件生态加速配适，吸引产业资源加大倾斜。

实际上，国内外企业都在尝试打造RISC-V的标杆产品。比如，国内的达摩院2022年发布了基于玄铁C910 RISC-V核的4核产品，推动了包括安卓在内的软件厂商加入RISC-V生态。国际上，Tenstorrent、Vantana和SiFive等企业也推出一些标杆产品。其中，Tenstorrent最新的RISC-V核“Ascalon”采用了CPU中少见的8-Wide指令集解码器设计。孟建熠认为，下一代RISC-V标杆产品在服务器场景、AI PC场景、AI场景有着一些关键指标。要真正从产业中走出来，性价比很重要。

“标准建设是RISC-V下阶段发展的重中之重。”孟建熠表示，国内产业需要在标准建设中尽快形成合力。目前，国际上在指令架构上的贡献明显高于国内，国内力量的参与度还不够。国内已经建立多个组织，都在进行相关的指令集的制定工作，需要联合起来统一到一个平台工作。另外，技术路线上要考虑相对集中，以AI为目标先做一轮国内制定标准的尝试。此外，计算原语是相类似，所以CPU、GPGPU、TPU在扩展上要形成一定的梯度，不能把指令集做成很多套并行大而全的扩展，这样生态无法形成。