11月15日，在高交会开幕式上，云天励飞重磅发布新一代AI芯片DeepEdge10。
据悉，DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片，采用自主可控的国产工艺，内含国产RISC-V核，支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡，已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算，可广泛应用于AIoT边缘视频、移动机器人等场景。
云天励飞是国内少有的自成立之初就坚持芯片研发的AI企业，目前已完成了3代指令集架构、4代神经网络处理器架构的研发，且已陆续商用。更可贵的是，通过多年的投入，公司已建立起一支核心芯片团队，设计经验平均超过14年。云天励飞的芯片还先后获得工信部、发改委、科技部三大部委人工智能专项，并三度获得“吴文俊人工智能科学技术奖”。
大模型时代，AI推理芯片是应用落地的关键承载体
边缘计算的市场价值呈现高速发展趋势。IDC预测，到2023年底，全球的边缘计算市场将达到2000亿美金的规模；预计到2026年，边缘计算市场将突破3000亿美金。
边缘计算的场景呈现出算力碎片化、算法长尾化、产品非标化、规模碎片化的特征，传统的算法开发和芯片都难以适应新一代人工智能边缘计算场景的产品化需求。大模型的出现，为行业提供了算法层面的解决之道。但大模型在边缘计算场景要面向实战发挥作用，则需要AI大模型推理芯片的支持。
对于AI芯片而言，大模型带来全新的计算泛式和计算要求。芯片需要具备更大的算力、更大的内存带宽、更大的内存容量，才能支持巨量参数的大模型在边缘端运行。同时，AI边缘推理芯片还承担了“落地应用最后一公里”的职责，这就意味着AI边缘推理芯片不仅要支持大模型等AI计算任务，还需要具备较强的通用算力。
针对上述场景需求，云天励飞打造了新一代边缘计算芯片DeepEdge10。该芯片具有SoC主控集成度；采用D2D Chiplet技术和C2C Mesh扩展架构，可实现算力的灵活扩展；内置云天励飞最新的第四代神经网络处理器。
基于一系列创新技术，云天励飞打造了系列化芯片。目前已开发出 Edge10C、Edge10 标准版和 Edge10Max 三款芯片；出货形态包括芯片、板卡、盒子、加速卡、推理服务器等，可广泛应用于AIoT边缘视频、移动机器人等场景。依托Dee Edge10创新的D2D chiplet架构打造的X5000推理卡，已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算。
据介绍，目前，云天励飞已向国内头部的AIoT芯片设计厂商、智慧汽车芯片设计厂商、服务机器人厂商、国家重点实验室等提供神经网络处理器的IP授权。