3月28日,云天励飞举办AI大模型产品发布会,正式发布“深目&Rdquo;AI模盒。该产品能够做到“3个90%&Rdquo;&Mdash;&Mdash;覆盖场景超过90%、算法精度超过90%,使用成本降低90%,解决大模型在场景落地最后一公里的问题,帮助更多中小企业客户轻松使用大模型。
会上,云天励飞还与鹏城实验室、之江实验室、中国电子、华为、华润数科等单位成立“深目2.0&Rdquo;生态联盟,共同探索更多大模型落地应用路径。
从ChatGPT到SoRa,从文生文、文生图像到文生视频,大模型发展日新月异,持续给行业带来惊喜,不仅国内掀起“百模大战&Rdquo;,国外科技巨头也在大模型上相互较劲。大模型的能力在不断进化,引发新一轮的AI变革。
云天励飞董事长兼CEO陈宁博士在发布会上提到:未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量顶尖人才。大模型一次训练成本在千万级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。
为了能够让大模型“平民化&Rdquo;,成为人人都可用的产品,云天励飞推出了“深目&Rdquo;AI模盒。
“能够实现3个90%,离不开云天励飞的核心能力&Mdash;&Mdash;算法芯片化。&Rdquo;陈宁博士说。
“深目&Rdquo;AI模盒的算力基础,来源于去年云天励飞推出的14nM ChIPlet大模型训推芯片DeepEdge10 Max。该芯片采用自主可控的国产工艺,内含国产RISC-V核,支持大模型训练推理部署。依托自研芯片DeepEdge10 Max创新的D2D chIPlet架构打造的推理平台,已适配并可承载10亿级SAM、百亿级LlaMa2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。
“深目&Rdquo;AI模盒的大模型能力,来源于云天励飞自主研发的多模态大模型“云天天书&Rdquo;。云天天书大模型包含语言大模型、多模态大模型等不同系列,在C-Eval、CMMLU等权威测试中多次获得第一,并于去年正式通过中央网信办备案。云天天书1.0版本于2023年初正式推出,至今已完成3个版本的迭代,预计今年6月将迭代4.0 V版本。
以云天天书为底座,云天励飞能够与生态合作伙伴完成预训练场景算法,再将预训练算法提供给广大中小企业用户,中小企业客户可根据自身场景需求,在边缘端完成算法微调。由于大模型具备泛化和学习的能力,客户部署算法后,大模型还能够不断根据现实应用场景情况,在线学习、优化算法,不断提升算法精度。
“深目&Rdquo;AI模盒不仅仅是“压缩&Rdquo;了大模型和芯片能力的一款全新产品,更是把云天励飞大模型通过算法芯片化能力平台“硬件化&Rdquo;的一次重要尝试。把复杂的技术通过简单的产品提供给用户,让用户可以零学习成本,快速训练出自己需要的算法。
“深目&Rdquo;AI模盒背后蕴藏了复杂的技术,但对于用户而言,他们只需要关心产品到底怎么用、好不好用。发布现场,云天励飞副总裁罗忆用实际场景演示了“深目&Rdquo;AI模盒是如何在数据少、无数据等极端情况下,快速完成算法训练。
在算法使用初期,只有少量数据,用户如何才能快速训练高精度算法?
以店外经营为例,这是城市治理中最常见的问题之一。当用户需要训练识别算法时,可以直接使用平台现成的算法对目标进行识别。用户只需要对识别结果标记“正确&Rdquo;和“误报&Rdquo;,算法精度就能通过自学习快速提升。通过这样的过程,算法精度通过1次训练就能得到显著提升,经过1周迭代后算法精度可超过90%。
天灾人祸等极端场景识别训练的数据几乎空白,面对这样“无数据&Rdquo;的情况,用户该如何训练算法?
以加油站场景的吸烟识别为例,这类行为的数据极难获取,因为这类危险行为往往伴随着成不可挽回的后果。而平台能够利用大模型能力,以加油站为背景,生成在该环境抽烟行为的人物,并将数据用于算法训练中,填补训练数据的空白。
使用AI合成数据来训练算法,不仅能够填补数据空白,还能够规避隐私安全等问题,已经逐渐成为大模型时代下训练新算法和提升算法精度的一条重要路径。
现场以“购物中心提袋识别&Rdquo;为例,演示了如何利用大模型泛化能力,解决识别对象标准不统一带来的算法训练难题。
大型购物中心一般没有统一的结算中心,购物中心难以掌握逛街顾客是否消费,也难以评估营销活动对实际消费转化的效果。而顾客是否提购物袋,是大型商场判断顾客是否消费的重要标准之一。但是,各品牌购物袋的大小、颜色均不统一;而且难以与顾客的背包区分,算法难以精准识别。
但在云天励飞的算法训练平台上,借助场景自适应能力,能够实现“千店千袋&Rdquo;的识别。首先,用户需要调用“拎手提袋识别&Rdquo;算法,识别所有的手提袋,再基于识别结果进行特定手提袋的识别训练,从而衍生出特定手提袋的识别算法,最后即可实现专用门店手提袋的精准识别。
从2014年成立至今,云天励飞一直坚持将AI技术与物理世界相结合,这也是云天励飞从成立之初自研芯片的重要原因。芯片是AI与物理世界的连接器,AI通过芯片为实体赋能,物理世界的数据又通过芯片反哺AI,推动AI进步发展。
云天励飞业务发展路径也沿着这条路径展开。在AI方案化方面,云天励飞在警务、城市治理、智慧交通、人居生活等领域打造诸多标杆项目,并且在低空经济、智慧教育等创新领域持续展开探索。基于在大量行业的落地经验,云天励飞已形成数据运营、新能源运营平台,走向AI运营化。如今,云天励飞还逐步走向AI产品化。去年,云天励飞与华为昇腾联合推出天舟大模型训推一体机;如今又推出面向边缘训推场景的“深目&Rdquo;AI模盒。此外,云天励飞还通过资本纽带,进军智能穿戴和机器人等硬件领域,形成日益完善的大模型产品体系。
从AI方案化、AI运营化再到AI产品化,云天励飞一直在致力于做物理世界的“解码者&Rdquo;,通过算法芯片化的能力,为“无形&Rdquo;的技术和“有形&Rdquo;的世界构建通道,让AI不仅仅是一个在虚拟世界的工具,而是转化为物理世界的生产力。
为了共同探索更多大模型低成本、高效率落地应用路径,云天励飞与鹏城实验室、之江实验室、上海交通大学城市治理研究院、哈工大深圳研究生院、中科院深圳先进研究院、中国电子、华为、深圳移动、深圳电信、深圳联通、华润数科、神州数码、中国铁塔深圳分公司、有人物联网、云赛智联等单位共同成立“深目2.0&Rdquo;生态联盟,共同探索更多大模型落地应用路径。
