云天励飞发布深目AI模盒把大模型装进小盒子应用成本降至千元级别

从ChatGPT到Sora，从文生文、文生图像到文生视频，大模型发展日新月异，持续给行业带来惊喜，国外科技巨头也在大模型上相互较劲。大模型的能力在不断进化，引发新一轮的AI变革。

近日，云天励飞发布“深目”AI模盒，致力解决大模型场景落地最后一公里问题，助力更多中小企业客户轻松使用大模型。会上，云天励飞还与鹏城实验室、之江实验室、中国电子、华为、华润数科等单位成立“深目2.0”生态联盟，共同探索更多大模型落地应用路径。

云天励飞董事长兼CEO陈宁博士在发布会上表示，未来3年，全球80%的企业都将使用大模型。但是，要训练专属大模型，不仅需要大算力、大数据，还需要大量顶尖人才。大模型一次训练成本在千万级，主流的训推一体机价格普遍在百万元，绝大多数企业都无法承担这样高昂的成本。为了能够让大模型“平民化”，成为人人都可用的产品，云天励飞推出了“深目”AI模盒。

这款产品售价在千元级，搭载云天励飞自研大模型边缘训推芯片DeepEdge10Max以及自研多模态大模型“云天天书”，具备算法边缘侧在线学习能力，可实现算法场景覆盖超过90%、算法精度超过90%，使用成本降低90%，让人人都能够根据自身场景需求，利用大模型能力，训练出可实战应用的算法。

陈宁表示，实现3个90%，离不开云天励飞的核心能力——算法芯片化。“深目”AI模盒的算力基础，来源于去年云天励飞推出的14nmChiplet大模型训推芯片DeepEdge10Max。该芯片采用自主可控的国产工艺，内含国产RISC-V核，支持大模型训练推理部署。依托自研芯片DeepEdge10Max创新的D2Dchiplet架构打造的X5000推理卡，已适配并可承载10亿级SAM、百亿级Llama2等大模型运算，可广泛应用于AIoT边缘视频、移动机器人等场景。

以云天天书为底座，云天励飞与生态合作伙伴完成预训练场景算法，再将预训练算法提供给广大中小企业用户，中小企业客户可根据自身场景需求，在边缘端完成算法微调。由于大模型具备泛化和学习的能力，客户部署算法后，大模型还能够不断根据现实应用场景情况，在线学习、优化算法，不断提升算法精度。

此前发布的2023年业绩快报显示，云天励飞2023年营收5.35亿元，较上年同期的5.46亿元下降2.14%，净亏损为3.9亿元，比上年同期有所下降。报告期内，公司研发投入仍保持较高水平，故经营毛利未覆盖研发等方面投入。