阿里云推出大规模视觉语言模型Qwen-VL

周兴
2023-08-26 17:42

8月26日消息,阿里云推出大规模视觉语言模型Qwen-VL,一步到位、直接开源。

Qwen-VL以通义千问70亿参数模型Qwen-7B为基座语言模型研发,支持图文输入,具备多模态信息理解能力。在主流的多模态任务评测和多模态聊天能力评测中,Qwen-VL取得了远超同等规模通用模型的表现。

Qwen-VL是支持中英文等多种语言的视觉语言(Vision Language,VL)模型,相较于此前的VL模型,Qwen-VL除了具备基本的图文识别、描述、问答及对话能力之外,还新增了视觉定位、图像中文字理解等能力。

format-jpg

(图源阿里云公众号,下同)

多模态是通用人工智能的重要技术演进方向之一。业界普遍认为,从单一感官的、仅支持文本输入的语言模型,到“五官全开”的,支持文本、图像、音频等多种信息输入的多模态模型,蕴含着大模型智能跃升的巨大可能。多模态能够提升大模型对世界的理解程度,充分拓展大模型的使用场景。

视觉是人类的第一感官能力,也是研究者首先想赋予大模型的多模态能力。继此前推出M6、OFA系列多模态模型之后,阿里云通义千问团队又开源了基于Qwen-7B的大规模视觉语言模型(Large Vision Language Model, LVLM)Qwen-VL。Qwen-VL及其视觉AI助手Qwen-VL-Chat均已上线ModelScope魔搭社区,开源、免费、可商用。

用户可从魔搭社区直接下载模型,也可通过阿里云灵积平台访问调用Qwen-VL和Qwen-VL-Chat,阿里云为用户提供包括模型训练、推理、部署、精调等在内的全方位服务。

format-jpg

Qwen-VL可用于知识问答、图像标题生成、图像问答、文档问答、细粒度视觉定位等场景。

Qwen-VL以Qwen-7B为基座语言模型,在模型架构上引入视觉编码器,使得模型支持视觉信号输入,并通过设计训练过程,让模型具备对视觉信号的细粒度感知和理解能力。Qwen-VL支持的图像输入分辨率为448,此前开源的LVLM模型通常仅支持224分辨率。在Qwen-VL 的基础上,通义千问团队使用对齐机制,打造了基于LLM的视觉AI助手Qwen-VL-Chat,可让开发者快速搭建具备多模态能力的对话应用。

1、该内容为作者独立观点,不代表电商派观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
2、电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn
相关阅读
8月25日消息,阿里今日推出大规模视觉语言模型Qwen-VL,并对其直接开源Qwen-VL以通义千问70亿参数模型Qwen-7B为基座语言模型研发,支持图文输入。相较于此前的VL模型,Qwen-VL除了具备基本的图文识别、描述、问答及对话能力之外,还新增了视觉定位、图像中文字理解等能力,可用于知识问答、图像标题生成、图像问答、文档问答、细粒度视觉定位等场景。
阿里开源通义千问140亿参数模型Qwen-14B及其对话模型Qwen-14B-Chat,免费可商用。
阿里CTO周靖人今天宣布阿里开源通义千问720亿参数模型Qwen-72B。
12月1日消息,在通义千问发布会上,阿里开源通义千问720亿参数模型Qwen-72B、18亿参数模型Qwen-1.8B及音频大模型Qwen-Audio。据悉,阿里本次开源的模型中除预训练模型外,还同步推出了对应的对话模型,面向72B、1.8B对话模型提供了4bit/8bit量化版模型,便于开发者们推理训练。
8月3日消息,据36氪,阿里今日开源通义千问70亿参数模型,包括通用模型Qwen-7B和对话模型Qwen-7B-Chat,两款模型均已上线魔搭社区,开源、免费、可商用。此举让阿里成为国内首个加入大模型开源行列的大型科技企业。
12月4日消息,阿里近日开源了通义千问720亿参数模型Qwen-72B,这也是目前国内大模型开源的最大参数,至此,通义千问共开源了18亿、70亿、140亿、720亿参数的4款大模型。阿里CTO周靖人在通义千问发布会后做了一场闭门分享,他提到:“我们能看到之间有一定差距,还有需要提升的空间,但是不能妄自菲薄。比如多模态等,国内很多产品也能做到ChatGPT的水平,甚至超越它。通义千问和ChatGPT 4.0在使用体感上,是互有胜负的。”
9月25日消息,阿里智能首席技术官周靖人在通义千问开源发布会上宣布,将全新开源性能更强的大模型Qwen-14B,该模型基于140亿参数,3万亿token训练的开源大模型提供更强大的推理、认知、规划和记忆能力。此外,相比之前的开源版本,新的QWEN-7B模型能力普遍提升,核心指标最高提升22.5%。
11月21日消息,在世界互联网大会乌镇峰会上,阿里“全模态全尺寸的通义开源大模型”被评为2024中国互联网企业创新发展典型案例,成为唯一入选的开源大模型成果案例。据悉,通义Qwen是全球领先的大模型,多次登顶国内外权威大模型榜单,全球范围内基于Qwen的衍生模型数逾7.8万个,Qwen已成为全球规模最大的生成式模型群。