官方网站-首页

AI时代架构创新不断涌现，而DeepSeek的出现为整个AI市场带来了全新活力。近日，达摩院首席科学家、知合计算CEO孟建熠在2025玄铁RISC-V生态大会上表示，DeepSeek在一定程度上改变了行业对AI硬件架构的诉求，模型持续创新是所有算力架构的机会。对RISC-V发展而言，打造标杆产品是关键。

DeepSeek让大模型从云走向端

孟建熠表示，DeepSeek问世之后，业界中产生了三方面不同观点的争论：一是开源架构与闭源架构谁更好。DeepSeek证明了开源架构也有很好的表现。二是该用Dense模型还是MoE模型。前者是通用全能的模型，后者是更好的专家模型，二者各有所长。三是算力敏感与内存容量敏感之争。之前模型对算力的需求非常大，现在是容量很大，算力下降了，所以内存容量成为一项关键指标。

“DeepSeek在一定程度上改变了大家对AI硬件架构的诉求。”孟建熠认为。

模型深度优化为算力架构带来了全新可能。具体而言，一是MoE模型，以更低激活比达成更低的计算成本，并使模型的单机部署成为可能。二是稀疏计算与模型压缩技术，识别并跳过模型中不重要的计算节点（如权重接近零的部分节点），同时结合模型压信技术减少参数量。三是混合精度计算与量化技术，浮点计算转化为低精度计算（如INT8、FP8、FP16），同时保持模型精度。四是动态计算图优代技术，实时调整计算结构减少冗余计算。五是内存优化与数据流重构技术，减少内存访问延迟以及數掘传输开销。六是分布式计算与负载均衡技术，将(jiāng)大(dà)规(guī)模(mó)模(mó)型(xíng)推(tuī)理(lǐ)任(rèn)务(wu)拆(chāi)分(fēn)到(dào)多(duō)个(gè)计(jì)算(suàn)节(jié)点(diǎn)，并(bìng)通(tōng)过(guò)负(fù)载(zài)均(jūn)衡(héng)技(jì)术(shù)优(yōu)化(huà)任(rèn)务(wu)分(fēn)配(pèi)。

DeepSeek的(de)出(chū)现(xiàn)，推(tuī)动(dòng)行(xíng)业(yè)更(gèng)加(jiā)关注底层硬件能力的适配。“在很长一段时间里，大家都喜欢喜欢‘大炮打蚊子’，当然这样是效率很高。但是今天我们有了一个新思路——可以用软硬件融合的视角来看待整个AI的发展。”孟建熠强调，算力、内存、互联之间原有的平衡发生了剧变，对于新的算力架构机会而言，大家再次进入同一起跑线。同时，开源大模型单机部署成为可能，进一步推动实际应用落地。

另一个趋势是大模型走向趋同，帮助算子收敛。值得关注的是，大模(mó)型(xíng)的(de)参(cān)数(shù)量(liàng)和(hé)计(jì)算(suàn)量(liàng)巨(jù)大(dà),但(dàn)如(rú)今(jīn)算(suàn)子(zi)的(de)个(gè)数(shù)在(zài)逐(zhú)步(bù)收(shōu)敛(liǎn)，主要以矩阵计算为中心，而且通过开源相互学习正在走向趋同。

从云端协同的层面，DeepSeek帮助大模型从云走向端，由此也带来了几个变化：一是从算力瓶颈变为存储的带宽和容量瓶颈，容量瓶颈成为全量大模型最关键的因素，比如671B大模型。二是降低计算资源需求，让几(jǐ)T、几(jǐ)十(shí)T和(hé)几(jǐ)百(bǎi)T的(de)算(suàn)力(lì)成(chéng)为(wèi)可(kě)能(néng)。三(sān)是(shì)实(shí)现(xiàn)单(dān)机(jī)部(bù)署(shǔ)的(de)可(kě)能(néng)，能(néng)够(gòu)让(ràng)开(kāi)源(yuán)模(mó)型(xíng)被(bèi)更(gèng)多(duō)私(sī)有(yǒu)数(shù)据(jù)优(yōu)化(huà)，形(xíng)成(chéng)私(sī)有(yǒu)解(jiě)决(jué)方(fāng)案(àn)。四(sì)是(shì)支(zhī)持(chí)边(biān)缘(yuán)设(shè)备(bèi)，使(shǐ)得(de)高(gāo)性(xìng)能(néng)AI应(yīng)用(yòng)能(néng)够(gòu)在(zài)边(biān)缘(yuán)设(shè)备(bèi)上(shàng)顺(shùn)利(lì)运(yùn)行(xíng)。“大(dà)模(mó)型(xíng)在(zài)云(yún)端(duān)的(de)话(huà)，实(shí)施(shī)成(chéng)本(běn)比(bǐ)较(jiào)高(gāo)，只(zhǐ)有(yǒu)有(yǒu)限(xiàn)的(de)企(qǐ)业(yè)可(kě)能(néng)在(zài)部(bù)分(fēn)领(lǐng)域去(qù)应(yīng)用(yòng)，而(ér)一(yī)旦(dàn)到(dào)了(le)端(duān)侧(cè)，就(jiù)有(yǒu)大(dà)量(liàng)的(de)应(yīng)用(yòng)都(dōu)会(huì)发(fā)展(zhǎn)起(qǐ)来(lái)。”孟(mèng)建熠表示。

模型创(chuàng)新(xīn)是(shì)算(suàn)力(lì)架(jià)构(gòu)的(de)机(jī)会(huì)

当(dāng)前(qián)算(suàn)力(lì)基(jī)础(chǔ)是(shì)以(yǐ)GPGPU(CUDA)为(wèi)代(dài)表(biǎo)的(de)传(chuán)统(tǒng)闭(bì)源(yuán)硬(yìng)件(jiàn)与(yǔ)生(shēng)态(tài)，而(ér)DeepSeek、Llama、Grok等(děng)开(kāi)源(yuán)大(dà)模(mó)型(xíng)不(bù)断(duàn)涌(yǒng)现(xiàn)，给(gěi)算(suàn)力(lì)架(jià)构(gòu)带(dài)来(lái)了(le)新(xīn)机(jī)会(huì)。当(dāng)然(rán)，这(zhè)个(gè)机(jī)会(huì)对(duì)所(suǒ)有(yǒu)架(jià)构(gòu)都(dōu)有(yǒu)效(xiào)，并(bìng)非(fēi)只(zhǐ)对(duì)RISC-V而(ér)言(yán)。如(rú)今(jīn)，这(zhè)些(xiē)开(kāi)源(yuán)模(mó)型(xíng)正(zhèng)在(zài)吸(xī)引(yǐn)更(gèng)多(duō)算(suàn)力(lì)架(jià)构(gòu)，包(bāo)括(kuò)X86、Arm这(zhè)样(yàng)的(de)传(chuán)统(tǒng)CPU架(jià)构(gòu)，DSA、ASIC这(zhè)样(yàng)的(de)自(zì)研(yán)架(jià)构(gòu)，以(yǐ)及(jí)以(yǐ)RISC-V为(wèi)代(dài)表(biǎo)的(de)开(kāi)源(yuán)架(jià)构(gòu)。“我(wǒ)们(men)都(dōu)在(zài)一(yī)个(gè)新(xīn)的(de)起(qǐ)点(diǎn)上(shàng)，现(xiàn)在(zài)就(jiù)看(kàn)谁(shuí)能(néng)够(gòu)跑(pǎo)得快。”孟建熠说道。

作为三大主流指令集架构中最灵活、最开放的一个，RISC-V适应了AI时代的技术创新节奏。它在原生AI支持上，拥有开源与开放架构、更易实现的软硬件协同设计、更优的能效比，以及覆盖全球、不断成熟的(de)生(shēng)态(tài)。在(zài)孟(mèng)建(jiàn)熠(yì)看(kàn)来(lái)，“RISC-V架(jià)构(gòu)+AI”是(shì)以(yǐ)AI原(yuán)生(shēng)成(chéng)为(wèi)架(jià)构(gòu)创(chuàng)新(xīn)的(de)最(zuì)终(zhōng)答(dá)案(àn)。随(suí)着(zhe)开(kāi)源(yuán)RISG-V架(jià)构(gòu)的(de)快(kuài)速(sù)发(fā)展(zhǎn)，重(zhòng)新(xīn)自(zì)研(yán)架(jià)构(gòu)已(yǐ)意(yì)义(yì)不(bù)大(dà)，以(yǐ)RISC-V为(wèi)基(jī)础(chǔ)构(gòu)建(jiàn)处(chù)理(lǐ)芯(xīn)片(piàn)是(shì)未(wèi)来(lái)的(de)主流(liú)。

RISC-V在(zài)AI领(lǐng)域具(jù)备(bèi)很(hěn)高(gāo)的(de)包(bāo)容(róng)性(xìng)，可(kě)以(yǐ)支(zhī)持(chí)做(zuò)CPU/DSA，也(yě)支(zhī)持(chí)做(zuò)GPU、多核产品或者(zhě)近(jìn)内(nèi)存(cún)计(jì)算(suàn)。“大(dà)家(jiā)可(kě)以(yǐ)在(zài)硬(yìng)件(jiàn)上(shàng)不(bù)断(duàn)创(chuàng)新(xīn)，而(ér)生(shēng)态(tài)上(shàng)统(tǒng)一(yī)在(zài)RISC-V。尽(jǐn)管(guǎn)目(mù)前(qián)有(yǒu)不(bù)同(tóng)的(de)实(shí)践(jiàn)方(fāng)案(àn)，但(dàn)最(zuì)终(zhōng)一(yī)定(dìng)会(huì)走(zǒu)向(xiàng)生(shēng)态统一。”孟建熠表示。

RISC-V如何真正走出来，是备受业界关注的一个问题。发展至今，RISC-V生态已经慢慢建立起来，从IoT等功耗敏感型场景向服务器等高算力场景成长，从纯通用计算向AI计算与通用计算融合成长，其中已经有了一些标杆性产品。

打造标杆产品是RISC-V成长路径的关键环节。孟建熠指出，RISC-V发展中的一个新趋势是从“小标杆产品”向“大标杆产品”成长，引领软件生态加速配适，吸引产业资源加大倾斜。

实际上，国内外企业都在尝试打造(zào)RISC-V的(de)标(biāo)杆(gān)产(chǎn)品(pǐn)。比(bǐ)如(rú)，国(guó)内(nèi)的(de)达(dá)摩(mó)院(yuàn)2022年(nián)发(fā)布(bù)了(le)基(jī)于(yú)玄(xuán)铁(tiě)C910 RISC-V核(hé)的(de)4核(hé)产(chǎn)品(pǐn)，推(tuī)动(dòng)了(le)包(bāo)括(kuò)安(ān)卓(zhuō)在(zài)内的软件厂商加入RISC-V生态。国际上，Tenstorrent、Vantana和SiFive等企业也推出一些标杆产品。其中，Tenstorrent最新的RISC-V核“Ascalon”采用了CPU中少见的8-Wide指令集解码器设计。孟建熠认为，下一代RISC-V标杆产品在服务器场景、AI PC场景、AI场景有着一些关键指标。要真正从产业中(zhōng)走(zǒu)出(chū)来(lái)，性(xìng)价(jià)比(bǐ)很(hěn)重(zhòng)要(yào)。

“标(biāo)准(zhǔn)建(jiàn)设(shè)是(shì)RISC-V下(xià)阶(jiē)段(duàn)发(fā)展(zhǎn)的(de)重(zhòng)中(zhōng)之(zhī)重(zhòng)。”孟(mèng)建(jiàn)熠(yì)表(biǎo)示(shì)，国(guó)内(nèi)产(chǎn)业(yè)需(xū)要(yào)在(zài)标(biāo)准(zhǔn)建(jiàn)设(shè)中(zhōng)尽(jǐn)快(kuài)形(xíng)成(chéng)合(hé)力(lì)。目(mù)前(qián)，国(guó)际(jì)上(shàng)在(zài)指令架构上的贡献明显高于国内，国内力量的参与度还不够。国内已经建立多个组织，都在进行相关的指令集的制定工作，需要联合起来统一到一个平台工作。另外，技术路线上要考虑相对(duì)集中(zhōng)，以AI为目标先做一轮国内制定标准的尝试。此外，计算原语是相类似，所以CPU、GPGPU、TPU在扩展上要形成一定的梯度，不能把指令集做成很多套并行大而全的扩展，这样生态无法形成。