多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

访客1年前AI生活164

独家 | 多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

大模型在四五月份迎来“百家争鸣”,战况愈加激烈,有新玩家仍在陆续进场。

AI 科技评论获悉:近日,一家多模态大模型初创公司“智子引擎”完成了千万元天使轮融资。据了解,“智子引擎”的 CEO 是 90 后青年高一钊。高一钊是人大博士生,师从卢志武,卢志武在“智子引擎”公司中担任顾问一职。此外,卢志武担任软通动力首席 AI 科学家。

在 ChatGPT 火起来之前,北京智源人工智能研究院曾率先开拓中国大模型研究,名为“悟道”,当时聚集了四支主要力量,分别由清华唐杰、清华刘知远、清华黄民烈与人大文继荣领头。

其中,人大文继荣主要带领人大高瓴人工智能学院的科学家们开拓多模态大模型方向,名为“文澜”,卢志武便在团队中担任模型主力军,他的学生高一钊也参与进来,完成了核心的研究工作。“悟道”之后,唐杰、刘知远与黄民烈均基于大模型技术成立了公司,而人大的入局,为智源大模型“四大金刚”的创业阵容拉开了完满的序幕。

据 AI 科技评论了解,卢志武团队也是国内最早研究多模态大模型、并取得杰出技术成果的团队。

卢志武和高一钊二人

卢志武和高一钊从事多模态大模型始于 2020 年。

2020 年 5 月,由 OpenAI 研发的 GPT-3 在人工智能领域掀起了一阵巨浪,引发了国内从业者对预训练大模型的关注,其中就包括了卢志武等人。

卢志武早年就读于北京大学数学科学学院信息科学系,硕士毕业后,于 2011 年在香港城市大学计算机系取得博士学位,他主要的研究方向包括机器学习、计算机视觉等。

独家 | 多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

卢志武

当时,国内大部分人的注意力都聚焦在 NLP 领域,但有关从文字扩展到图像、视频的多模态大模型鲜少有人关注。

期间,中国人民大学高瓴人工智能学组建了多模态大模型研发团队,专门从事图文多模态预训练模型的研究和开发,由文继荣牵头,其他核心成员包括宋睿华、卢志武等人,这也是国内最早从事多模态大模型研究的团队。

高一钊在同年进入中国人民大学高瓴人工智能学院攻读博士、师从卢志武。

独家 | 多模态大模型初创企业“智子引擎”,近日完成千万元天使轮融资

高一钊

“智子引擎”将推出多模态大模型

事实上,早在 ChatGPT 横空出世的三年前,北京智源人工智能研究院已率先开始中国大模型研究,名为“悟道”,其中由文继荣主要带领的人大高瓴人工智能学院科学家组成“悟道·文澜”团队,从事多模态大模型方向研究,卢志武任模型研发主力军。

2021 年 3 月,基于对 3000 万图文数据集的预训练,第一代“文澜”——图文检索模型 BriVL 正式问世,这是一个超大规模的多模态预训练模型,采用了双塔结构可分别对图像和文本进行编码,通过自监督任务来学习图像和文本之间的相似度。

以图文检索模型为基础,研究团队还开发了 H5 小应用“AI心情电台”,只需要向 AI 精灵提供一张图片,模型即可为该图片匹配一段合适的音乐。

随即三个月后,卢志武所在的文澜团队又发布了“文澜 2.0”(BriVL-2)。基于视觉-语言弱相关的假设,研究团队提出图文弱相关假设,设计了高效的跨模态对比学习策略,同时提出了基于DeepSpeed的分布式多模态训练框架,从而提高模型的表达能力和泛化能力。

基于 6.5 亿弱相关的图文数据集的预训练,文澜 2.0 拥有的模型容量达到50亿参数,是目前最大的中文通用图文预训练模型,可覆盖多个领域和场景,在多个图文检索和生成任务上都取得了优异的性能,比如图像检索、图像描述、视觉问答等。

期间,高一钊也深度参与了文澜 1.0 和 2.0 的图文预训练工作,主要负责数据处理、模型训练和评估等。

在 ChatGPT 的热浪下,卢志武和高一钊看到了多模态研究在大模型时代的新机遇,成立多模态大模型公司“智子引擎”。借鉴以往参与文澜模型研发的经验,“智子引擎”团队于今年的 3 月 8 日正式推出了自主研发的多模态对话大模型,并发布了第一款应用级多模态 ChatGPT 产品“元乘象 ChatImg”。

“元乘象 ChatImg”的参数量在百亿级别,主要使用了图文对数据和 VQA 数据作为训练集,同时进行图文匹配、图文检索、图像描述生成、文本描述生成等多种任务的训练。根据用户输入的图片或文字,“元乘象 ChatImg”可以进行智能聊天、讲故事、写广告等。

自四五月份以来,陆续亮相的大模型引起一片喧嚣沸腾,大厂刀光剑影,创业公司也不遑多让。学术界下场入局大模型是个大趋势,如何能在靠近工程化的较量中找到自己的竞争力和位置,亟待从与时间的赛跑中找答案。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:362580117!

相关文章

折扣化改革并非价格战,精细选品、提动销成为盒马未来发展新方向

折扣化改革并非价格战,精细选品、提动销成为盒马未来发展新方向

“把最好的商品卖便宜才是本事”,今天,在盒马2023新零供大会上,面向几百家供应商伙伴,盒马CEO侯毅表达了中国零售业变革的必要性以及盒马推动...

生产力范式变革,华为云多管齐下推动AI产业化

生产力范式变革,华为云多管齐下推动AI产业化

回顾人类历史,每一次工业革命的核心驱动力都在于解决了关键技术的通用性之后,实现生产方式的巨大变化和生产力水平质的飞跃,从而深刻影响到人类社会的...

脱离寒武纪,行歌团队或卖身长安汽车,落地重庆

脱离寒武纪,行歌团队或卖身长安汽车,落地重庆

小编从知情人士处独家获悉,行歌团队计划脱离寒武纪,完全独立运营,接盘者为长安汽车。 据接近行歌团队的人士透露,新主体公司名为“芯渡科技(重庆)...

健康医疗数据的开放,该如何保证其安全性?

健康医疗数据的开放,该如何保证其安全性?

健康医疗数据的共享开放与隐私安全,是一组难解的矛盾。 如果说医疗数据是一个人人眼热的金矿,那么如何保证其开放共享的安全性,则是各方合作和利益...

5年千亿、走车海战术,奇瑞「补课」新能源

5年千亿、走车海战术,奇瑞「补课」新能源

又到了各家车企晒成绩单的日子。 10月,比亚迪站上了月销30万辆的新高度,其他车企的表现也可圈可点。比如奇瑞,10月份销量超过14万台,今年...

蚂蚁云原生推出一站式云原生开发与治理平台BizStack

随着云原生转型加速,业务与技术复杂度提升,传统的研发流程、业务与技术协同模式已经难以满足新一代技术架构发展与业务快速创新的需求。 为了促进业技...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。