字节跳动布局大模型 分别在语言和图像两种模态上发力

柏纳
2023-02-23 15:05

2月23日消息,据36氪报道,字节跳动在大模型上已有所布局,分别在语言和图像两种模态上发力。字节跳动相关技术负责人对此回应:技术中台在这些领域有探索,还很初期,不成熟。

一名知情人士透露,语言大模型团队由字节搜索部门牵头,目前团队规模在十数人左右。图片大模型团队则由产品研发与工程架构部下属的智能创作团队牵头。

format-jpg

另有知情人士表示,字节跳动语言大模型团队在今年组建,探索方向主要为与搜索、广告等下游业务的结合,“搜索业务部门、AI Lab和AML(应用机器学习)团队都调了一部分人支援语言大模型,团队目前的预期是在今年年中推出大模型”。

据悉,语言大模型团队负责人与图像大模型团队负责人的间接和直接汇报对象,均为Tik Tok产品技术负责人朱文佳。加入字节跳动前,朱文佳曾在百度担任搜索部主任架构师。朱文佳于2015年进入头条,被称为“头条里算法技术的Top 3人选”。四年后,他成为今日头条CEO。2021年2月,他又调任成为Tik Tok产品技术负责人,向Tik Tok CEO周受资汇报。

format-jpg

朱文佳,图源:今日头条官微

此外,一名AI资深从业者透露,字节并不缺GPU。字节旗下的企业技术服务平台火山引擎,在2021年正式进军基础云市场(IaaS层),为大模型所需的算力奠定了基础。

上述从业者表示:“从训练大模型的角度而言,工程团队和云服务团队一样关键,在两者上均无短板的字节跳动具有一定优势。”

对AI领域的布局,字节的反应速度一直较快。据了解,目前AIGC(AI生成内容)技术也已结合到头条的内容创作以及抖音的图文内容生成中。比如2021年,抖音上线的可以把人脸卡通画的“漫画脸”特效就小有出圈。

但ChatGPT的成功模式已证明,大模型的训练是入场费高昂的长跑。另有知情人士表示,在ChatGPT公开前,字节内部对大模型的投入依然较为犹疑,“对于字节的产品矩阵来说,目前的算法已经够用”。

1、该内容为作者独立观点,不代表电商报观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
2、电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn
相关阅读
8月27日消息,今日有消息称,字节跳动正在秘密筹备成立模型研究院,并积极招揽人才。对此,知情人士回应称:字节跳动模型相关研究的长期计划,但并未决定建立独立机构。另外,前零一万物技术联创黄文灏已字节跳动,负责技术项目管理和规划,汇报给字节跳动模型负责人朱文
2月23日消息,36氪获悉,字节跳动模型上已有所布局,分别在语言和图像两种模态上发力。字节跳动相关技术负责人对此回应:技术中台在这些领域有探索,还很初期,不成熟。一名知情人士透露,语言模型团队由字节搜索部门牵头,目前团队规模在十数人左右。据悉,语言模型团队负责人与图像模型团队负责人的接和直接汇报对象,均为Tik Tok产品技术负责人朱文
字节跳动成立AI部门Flow
该部门技术负责人为字节跳动技术副总裁洪定坤,业务带头人为字节模型团队的负责人朱文
11月27日消息,据36氪报道,字节跳动近期成立了一个新AI部门Flow,技术负责人为字节跳动技术副总裁洪定坤,业务带头人为字节模型团队的负责人朱文。Flow主要聚焦在AI应用层。在帖中,其表示是字节跳动旗下AI创新业务团队,“目前已经在国内和海外分别上线豆包和Cici两款产品,有多个AI相关创新产品孵化中”。在此次调整中,字节也从飞书、抖音等各个BU抽调人选,到这一部门做一款新的C端产品。
10月19日消息,字节跳动发布关于“实习生破坏模型训练”的事实澄清:近期有媒体称“字节跳动模型训练被实习生攻击”,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为,该实习生已被辞退,公司也其行为同步给行业联盟和所在学校,由校方处理。
11月5日消息,字节跳动内部发布了年内第四份《企业纪律与职业道德委员会通报》。通报显示,103人因违法违规行为被辞退(含外包及实习生),其中11人因涉嫌构成刑事犯罪,被公安机关立案侦查。此外,通报中还披露了近期受到关注的实习生破坏模型训练事件。字节跳动表示,涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动模型等其他业务。
近日,字节跳动应用机器学习团队开源名为veGiantModel的模型训练框架,主要应用于自然语言处理领域的模型训练。
9月19日消息,字节跳动宣布于2024年9月24日发布豆包模型的视频生成模型,并在同一天在深圳举行的火山引擎AI创新巡展·深圳站大会上进行公布。此次发布会展示火山引擎的整体介绍、豆包模型的最新进展以及多个行业企业AI落地实践案例。
字节跳动宣布豆包APP总下载量已达1亿次,正式开启付费商业化模式,价格相比同行便宜99.3%。