衡宇 发自 凹非寺
量子位 | 公家号 QbitAI
比来的谷歌像个大漏勺,那不,又有AIGC核心成员联手跑路咯!
量子位独家得悉,那回跟谷歌say byebye的,是文生图核心团队——AI绘画模子Imagen论文的四位核心做者,出走目标是要搞本身的AI公司。固然公司名称暂未对外公布,但新公司将一以贯之的道路是很清晰的:
以Imagen为根底,沿着本来的项目做下去,不只继续做文生图,还要做视频标的目的。
核心人才创业,天然少不了VC塞钱——已经按1亿美圆的惊人天使估值完成了首轮融资,并且更多VC想给钱而赶不上、投不进。

那也算是文生图、文生视频、AIGC赛道上,最出名的研究团队之一了。
文生图骨干成员共创AIGC新公司新公司联创四人,Chitwan Saharia、William Chan、Jonathan Ho以及Mohammad Norouzi,都出自谷歌。
他们之前精神重点放在AIGC的文生图板块,是谷歌用来匹敌DALLE-2的大杀器Imagen的论文配合做者,位置都挺重要的那种。

先来介绍一下Chitwan Saharia,也是Imagen的配合一做。

Chitwan本科结业于孟买理工学院计算机科学与工程专业,在孟买理工学院和蒙特利尔大学都当过法式和算法方面的研究助理。2019年参加谷歌,base多伦多,花了3年时间从二级软件工程师做到高级研究科学家,去年12月从谷歌去职。
Chitwan有语音识别、机器翻译的经历,在谷歌工做时,次要负责指导image-to-image扩散模子的工做。
第二位William Chan,也是Imagen论文配合一做。他同样身世计算机工程,先后就读于加拿大滑铁卢大学、卡内基梅隆大学,中间在新加坡国立大学当过1年交换生。

在卡内基梅隆大学拿下博士学位后,William还在加拿大更大的社区学院之一乔治布朗学院,主攻烘焙和烹调(?),学了3年。
Willian从2012年起参加谷歌,于2016年成为谷歌大脑的一份子,去年5月去职时,他已经是谷歌大脑多伦多的研究科学家了。
然后要介绍的是Jonathan Ho,UC伯克利博士结业。
他不只是Imagen论文的core contribution,仍是Diffusion Model奠定之做《Denoising Diffusion PRobabilistic Models》的一做。

博士结业于UC伯克利计算机科学专业的Jonathan,之前在OPEnAI当过1年的研究科学家,后来在2019年参加谷歌,共工做了2年零8个月,去年11月以研究科学家的身份从谷歌去职。
新公司的最初一位联创叫Mohammad Norouzi,也是Imagen论文的配合一做。
△Mohammad Norouzi他在多伦多大学计算机科学博士就读期间,拿到了谷歌ML博士奖学金。结业后他参加谷歌大脑,在那儿工做了7年,在谷歌的最初title是高级研究科学家,工做重点是生成模子。
同时,Mohammad也是谷歌神经机器翻译团队的原始成员,SimCLR的结合创造人。他在GitHub主页上小小地透露了本身的比来动态:
目前,我在一家草创公司工做,公司任务是推进人工智能的开展程度,帮忙人类进步缔造力。我们正在雇用!
那句话以外,关于新公司的更多信息,四人在任何社交平台都没有更详细的透露。
那已经是谷歌比来漏进来的第n波人了。
就拿刚刚过去的2个月来说,先是包罗顾世翔(Shane Gu,‘让我们一步一步地思虑’研究者)在内的至少4名谷歌大脑成员参加OpenAI;恋人节时,Hyung Won Chung和CoT最早的一做Jason Wei联袂组团潜逃OpenAI。
本周三,您猜怎么着?嘿,又跑了一个:

OpenAI狂喜,只要谷歌大漏勺本勺受伤的世界降生了。
Imagen是什么?领会完谷歌漏走的那四小我,回头来说说为他们职业生活生计博得掌声的Imagen项目。
Imagen是谷歌发布的文生图模子,发布时间在DALL-E 2新颖出炉一个月以后。
本文开头放的熊猫震惊脸色包,就是朝Imagen输入“一只十分快乐的毛茸熊猫装扮成了在厨房里做面团的厨师的高比照度画像,他死后的墙上还有一幅画了鲜花的画”后,得出的一张要素完整的AI生成画做。
(欠好意思,请自行断句)

在Imagen呈现之前,文生图都共用一个套路,那就是CLIP负责从文本特征映射到图像特征,然后指点一个GAN或Diffusion Model生成图像。
Imagen不走寻常路,开拓了text-to-image新范式:
纯语言模子只负责编码文本特征,详细text-to-image的工做,被Imagen丢给了图像生成模子。
详细来讲,Imagen包罗一个冻结的语言模子T5-XXL(谷歌自家出品),当做文本编码器。T5-XXL的C4训练集包罗800GB的纯文本语料,在文本理解才能上比CLIP强很多,因为后者只用有限图文对训练。
图像生成部门则用了一系列扩散模子,先生成低分辩率图像,再逐级超采样。

依赖于新的采样手艺,Imagen允许利用大的引导权重,所以不会像原有工做一样使样素质量下降。那么一来,图像具有更高的保实度,而且能更好地完成图像-文本对齐。
概念说起来简单,但Imagen的效果仍是令人大为震撼的。
生成的狗子飙车手艺一流:

比起爆火的DALLE-2,Imagen能更准确天文解同时呈现两个颜色要求的情况:

一边绘画一边写字那种要求,Imagen也胜利完成,不只写得对,还能加光影魔术手般的烟花特效(不是)。

以及对后来研究更有帮忙的是,谷歌通过Imagen的研究,优化了扩散模子。
起首,增加无分类器引导(classifier-free guidance)的权重能够改善图文对齐,同时却会损害图像保实度。
为领会决那个bug,在每一步采样时引入动态阈值(dynamic thresholding)那个新的新的扩散采样手艺,来避免过饱和。

第二,利用高引导权重的同时在低分辩率图像上增加噪声,能够改善扩散模子多样性不敷的问题。
第三,对扩散模子的典范构造U-Net做了改良,酿成了Efficient U-Net。后者改善了内存利用效率、收敛速度和推理时间。
后来在Imagen上微调,谷歌还推出了能“指哪打哪”版本的文生图模子DreamBooth。只需上传3-5张指定物体的照片,再用文字描述想要生成的布景、动做或脸色,就能让指定物体“闪现”到你想要的场景中。
好比酱婶儿的:

又或者酱婶儿的:

大要是Imagen效果过分超卓,劈柴哥后来亲身宣发的谷歌AI生成视频选手上将,就叫做“Imagen Video”,能生成1280*768分辩率、每秒24帧的视频片段。
啊,等等,谷歌有Imagen Vedio,那和四人的新公司不是碰标的目的了吗?
认真看了下论文,无论是Imagen仍是Imagen Video,各自都有大篇幅涉及风险、社会影响力的内容。
出于平安、AI伦理和公允性等方面考虑,Imagen和Imagen Vedio都没有间接开源或开放API,以至连demo都没有。

哪怕市道上呈现开源复刻版本,也不是最正宗的味道。
此前就曝出过在谷歌每年的内部员工查询拜访“Googlegeist”中,员工暗示对谷歌施行才能欠安的量疑。也许,那四人出走,继续做Imagen,并做Imagen的视频版,说不定就是为了想把项目放到一个更开放的AI情况。
并且那种出走创业,也是热钱大钱向AIGC汹涌的成果。
所以既然AIGC的创投热潮已经在承平洋那头开启,那应该在承平洋那头也不会悄无声息。
或许你已经传闻了一些同样的大厂出走创业,欢送爆料说说~~
— 完 —
量子位 QbitAI · 头条号签约
存眷我们,第一时间获知前沿科技动态
发表评论