AIGC 及 AI芯片 发展趋势及未来展望（第二期）

二、AI芯片发展趋势

1、制程越来越先进

从2017年英伟达发布TeslaV100AI芯片的12nm制程开始，业界一直在推进先进制程在AI芯片上的应用。英伟达、英特尔、AMD一路将AI芯片制程从16nm推进至4/5nm。

2、Chiplet封装初露头角

2022年英伟达发布H100AI芯片，其芯片主体为单芯片架构，但其GPU与HBM3存储芯片的连接，采用Chiplet封装。在此之前，英伟达凭借NVlink-C2C实现内部芯片之间的高速连接，且Nvlink芯片的连接标准可与Chiplet业界的统一标准Ucle共通。而AMD2023年发布的InstinctMI300是业界首次在AI芯片上采用更底层的Chiplet架构，实现CPU和GPU这类核心之间的连接。

3、头部厂商加速在AI芯片的布局

AI芯片先行者是英伟达，其在2017年即发布TeslaV100芯片，此后2020以来英特尔、AMD纷纷跟进发布AI芯片，并在2022、2023年接连发布新款AI芯片，发布节奏明显加快。芯片成本变化有以下规律：封装形式越复杂，封装成本、封装缺陷成本占芯片成本比重越大：具体来说，SoC＜MCM＜InFO小于2.5D。芯片面积越大，芯片缺陷成本、封装缺陷成本占比越大；制程越先进，芯片缺陷成本占比越高，而Chiplet封装能有效降低芯片缺陷率，最终达到总成本低于SoC成本的效果。制程越先进、芯片组面积越大、小芯片（Chips）数量越多，Chiplet封装较SoC单芯片封装，成本上越有优势。鉴于当前AI芯片朝高算力、高集成方向演进，制程越来越先进，Chiplet在更先进制程、更复杂集成中降本优势愈发明显，未来有望成为AI芯片封装的主要形式。

三、对AI芯片与AIGC的未来展望

2023全球AI芯片峰会（GACS 2023）在深圳南山圆满举行，在首日开幕式上，燧原科技创始人兼COO张亚林分享了题为《生成式人工智能的革命》的主题演讲。张亚林谈道，AIGC将持续带动算力需求增长。参数量高达数千亿的大模型，依赖分布式计算、更大的内存容量和带宽、更高算力、更实惠的成本或性价比，对AI芯片生态提出更高要求。他打了一个形象的比喻：Transformer正通过统一的大模型，浓缩出一个“大树型”的AIGC平台生态，算力是“树根”，大模型是“树干”，行业模型库是“树枝”，应用是“树叶”。相比原来碎片化的CV、NLP中小模型，大模型的“大树型”生态的算力需求更加明确和聚焦。对此，他倡导联合生态伙伴，通过统一的大模型技术生态栈解决算力瓶颈问题。

对于如何针对统一的大模型技术生态栈进行加速？张亚林认为，支持大模型需求，AI芯片厂商需要“芯片硬件+软件”双管齐下。“不能仅定位于AI芯片本身，而是从硬件、软件、系统、方案整体赋能一个数据中心或客户。这一高抽象的四大层次需要有紧密的生态伙伴一起加持，达到一个统一生态栈来解决算力瓶颈问题。”

为此，燧原科技推出的智算2.0，从基础大模型和垂类大模型两个方面进行探索。在基础大模型训练方面，其强调更高的性能，以及算力集群化催生创新前瞻性；面向垂类大模型，则以算力性价比推进产业规模化。目前，其已为大型科技机构打造千卡规模AI训练算力集群，并与大型互联网公司合作打磨技术。在方案方面，燧原科技还推出了大模型应用平台——燧原曜图，希望通过系统化产品的更具象方式以触达更多客户。从AI芯片商业化来说，所有产品发布都要拟合时间点和节奏。

这是一个简单的AIGC市场规模预测，我们截取了一个智库的说法：在2023年整个AIGC市场规模将达170亿人民币，预测到十年之后或者2030年底将达到万亿级别。这个预测是非常疯狂的，基本七到八年要实现大几十倍，甚至一百倍的增长。

整个增长分成三个部分：2023到2025年是起势阶段，这两年生成式AI还在进行算法、部署、商业模式一系列的探索；到2025年到2028年是生态的成熟期，开始进入各行各业，产生一些真正更大规模的商业价值；2028到2030年是井喷，生态爆发，进入所有人的生活。

燧原科技已经在2022年是开始启动部署，包括年底的ChatGPT。2023年在中国我们称之为大模型训练的元年，所谓的百模大战、千模大战都会用非常高端的训练卡，用最快的时间，把整个大语言模型和多模态模型训练出来，抢时间，然后更好地建立自己的护城河。但是到了现在，基本上所有的看法都认为，中国的第一波大训练已经结束了，如果现在才进入这个局面已经没有机会了。

在2024年大模型的部署元年开始之后，当数据的飞轮重新转起来，所有的大模型以及应用开始收到用户大量数据，势必在明年下半年要开始重构他的训练，所以叫它再训练。这样的数据飞轮转起来之后，谁能在明年的下半年提供真正更有性价比，或者更高性能，或者帮助用户的预训练产品，能把大模型2.0时代真正推动起来，把数据的迭代转起来，又变得更加关键。2023年，我们认为是大模型的预训练元年；2024年是大模型的商业部署元年；2025年将是大模型2.0真正成熟的元年。