凯时AG

泉源:哈登16中5仅15分有6失误作者: 卢淑芬:

李飞飞造了ImageNet,, ,,,,现在她又带人逾越了它

编辑|Panda

2012 年,, ,,,,AlexNet 在 ImageNet 竞赛上以压倒性的优势拿下第一,, ,,,,正式开启深度学习时代。。。。。。以后十余年,, ,,,,ImageNet 成为盘算机视觉研究的「标准科场」:无论是 VGG、ResNet,, ,,,,照旧 ViT,, ,,,,研究者们都在这统一张卷子上比拼,, ,,,,看谁的模子精度更高。。。。。。

但这张卷子,, ,,,,现在已经没有评分的意义了。。。。。。

今年,, ,,,,一批顶尖论文相继宣告:它们在 ImageNet 上的天生质量评分(FID),, ,,,,已经低于真实图片自己的评分。。。。。。也就是说,, ,,,,天生的假图片,, ,,,,在统计上比真图片「更像真图片」。。。。。。卷子刷穿了,, ,,,,分数失真了,, ,,,,这个沿用十年的基准彻底饱和。。。。。。

基准饱和意味着什么???简朴来说:你不再能通太过数判断一个天生模子是真的好,, ,,,,照旧在「投契取巧」地优化指标。。。。。???蒲Ь赫, ,,,,需要一把新的尺子。。。。。。

就在前两天,, ,,,,斯坦福大学等机构宣布了一个名为GPIC(Giant Permissive Image Corpus,, ,,,,巨型开放图像语料库)的数据集。。。。。。

项目共一作者 Keshigeyan Chandrasegaran 的推文

该项目由李飞飞团队主导构建,, ,,,,焦点孝顺者为 Keshigeyan Chandrasegaran 和 Kyle Sargen,, ,,,,包括整整1 亿对图像-文本数据,, ,,,,总计约28 万亿像素,, ,,,,并已全量托管在 Hugging Face 上,, ,,,,任何人都可以免费下载使用。。。。。。

旧规则失灵了

要明确 GPIC 为什么主要,, ,,,,先要明确目今的视觉天生研究面临哪些逆境。。。。。。研究者们在使用已有数据集时,, ,,,,遭遇了三个相互叠加的贫困。。。。。。

第一个贫困:旧基准 ImageNet 已经对不上现实

今天的图像天生模子,, ,,,,训练用的是数亿张带有自然语言形貌的图片,, ,,,,天生时也靠文字提醒词驱动。。。。。。而 ImageNet 是一个以「分类标签」为焦点的数据集,, ,,,,它对应的是另一个时代的研究范式。。。。。。拿一张用文字提醒天生的图片,, ,,,,去和一个以标签分类为目的设计的数据集做较量,, ,,,,实质上是「用语文考卷评数学效果」。。。。。。

第二个贫困:大大都工业级数据集差池外开放

Stable Diffusion、Midjourney、Sora 这些一线产品背后,, ,,,,训练数据要么是商业神秘,, ,,,,要么涉及版权纠纷,, ,,,,从未果真。。。。。。学术界要复现、较量、刷新这些模子,, ,,,,险些无从下手。。。。。。

第三个贫困:纵然有开放数据集,, ,,,,也不稳固

现在学界常用的开放数据集(如 LAION、DataComp),, ,,,,普遍接纳「URL 索引」的方式分发——也就是说,, ,,,,研究者下载到的,, ,,,,着实是一份图片网址清单,, ,,,,还得自己去抓取原始图片。。。。。。随着时间推移,, ,,,,大宗链接失效,, ,,,,差别研究团队最终用到的「统一个数据集」着实已经大相径庭,, ,,,,实验效果自然无法可靠较量。。。。。。

GPIC 的设计,, ,,,,正是针对这三重失灵逐一作答。。。。。。

论文问题:GPIC: A Giant Permissive Image Corpus for Visual Generation论文地点:https://arxiv.org/abs/2605.30341项目地点:https://gpic.stanford.edu/

来自 ImageNet 作者的接班人之作

构建 GPIC 的团队,, ,,,,来自斯坦福大学,, ,,,,包括李飞飞、吴佳俊以及他们的多位学生。。。。。。

李飞飞是「ImageNet 时代」的创立者之一。。。。。。2009 年,, ,,,,她主导宣布了第一版 ImageNet,, ,,,,厥后由此衍生出 ILSVRC 视觉识别挑战赛,, ,,,,催生了 AlexNet 等一系列里程碑式事情,, ,,,,被普遍以为是深度学习革命的主要推手之一;;;;;;她也因此还被《时代》杂志和 BBC 等许多媒体称为是 AI 的教母(Godmother of AI)。。。。。。

图源:Time 官网

她现在是斯坦福人工智能实验室(SAIL)的联合主任,, ,,,,同时也是 3D 空间智能公司 World Labs 的首创人。。。。。。

这一次,, ,,,,她向导团队打造的是视觉天生时代的「新 ImageNet」。。。。。。

GPIC 是什么,, ,,,,怎么做出来的

GPIC 的构建,, ,,,,经由了四个严酷的流程阶段。。。。。。

只收罗有授权的图片

研究团队仅从 Flickr 和 Wikimedia 两个平台网络图片,, ,,,,并严酷限制在 CC BY、CC0、公有领域和无已知限制这四类授权规模内。。。。。。这意味着 GPIC 里的每一张图片,, ,,,,都有明确的执法依据,, ,,,,既可用于学术研究,, ,,,,也可用于商业产品开发,, ,,,,无需担心版权风险。。。。。。初始网络到的图片约 1.1 亿张,, ,,,,其中 87.7% 来自 Flickr,, ,,,,12.3% 来自 Wikimedia。。。。。。

过滤低质量与有害内容

研究团队借助视觉语言模子 Qwen3-VL-4B,, ,,,,自动识别并移除分辨率过低、严重模糊、过曝、近乎空缺,, ,,,,以及被判断为不清静的图片。。。。。。这两类过滤划分镌汰了约 0.3% 和 0.35% 的图片——比例看起来很小。。。。。, ,,,,但在亿级规模下,, ,,,,这意味着筛掉了数十万张问题图片。。。。。。

第三步:去重

互联网图片有大宗的「重复」征象,, ,,,,包括统一场景的连拍、被转发的心情包、略有差别的翻国界。。。。。。研究团队使用了一种名为 SSCD 的图片复制检测模子,, ,,,,盘算每两张图片之间的特征相似度,, ,,,,并通过「守旧去重」战略删除高置信度重复项。。。。。。最终,, ,,,,约 101.3 万张图片留下,, ,,,,其中不含任何完全相同的副本。。。。。。

第四步:天生高质量形貌文字

古板图片数据集的文字形貌(如 alt text)质量往往很差,, ,,,,充满着「photo.jpg」「未命名」之类无意义的标注。。。。。。GPIC 则对每一张图片,, ,,,,都用 Qwen3-VL-4B 重新天生磷七质量的人工智能形貌,, ,,,,且形貌凭证「标签」「短」「中」「长」四种粒度漫衍。。。。。。天生 1 亿张图片的形貌,, ,,,,共消耗约 1500 个 H100 GPU·小时。。。。。。

最终的 GPIC,, ,,,,包括 1 亿张训练图片、20 万张验证图片和 100 万张测试图片,, ,,,,总体积约 12.9 TB,, ,,,,整理成 8000 个分片(shard),, ,,,,可以直接流式传输用于大规模漫衍式训练。。。。。。

数据集之外,, ,,,,GPIC 还附带了一套新的评估协议,, ,,,,这同样是此次宣布的主要孝顺。。。。。。

旧的评估指标 FID(Fréchet Inception Distance)依赖一个 2015 年的图像分类网络 Inception-v3 来提取图片特征。。。。。。这个网络从未为「评估天生质量」而设计,, ,,,,它的特征空间和人类对图像质量的感知保存显着的脱节,, ,,,,导致 FID 评分容易被「刷榜」——模子可以在不真正提升感知质量的情形下降低 FID 数值。。。。。。

GPIC 的新基准接纳FD-DINOv2作为主要指标。。。。。。

DINOv2 是 Meta 于 2023 年宣布的自监视视觉特征模子,, ,,,,其特征体现与人类对图像相似性的判断更为一致。。。。。。

研究者们验证发明:现在所有主流天生模子(包括那些用了 DINOv2 特征训练的模子),, ,,,,在 FD-DINOv2 上的分数仍然高于真实图片,, ,,,,说明这把尺子尚有足够的「余量」,, ,,,,不会很快被刷穿。。。。。。

更主要的一点刷新是:GPIC 的基准评分是与一个 自力的百万张测试集 举行较量,, ,,,,而不是和训练集较量。。。。。。这个设计阻止了一个严重的误差——若是拿天生图片和训练集较量,, ,,,,模子只需「记着」训练数据就能获得好分数,, ,,,,而无法反映真正的泛化能力。。。。。。

给未来的研究者:参考基线

为了利便厥后者对齐实验效果,, ,,,,研究团队还在 GPIC-Full(1 亿张训练集)上训练了一个参考基线模子。。。。。。

这个基线使用了JiT(Just image Transformers)流匹配架构,, ,,,,搭配 1.1B 参数的 Transformer 主干网络,, ,,,,以 256×256 分辨率在单节点 8 张 H100 上训练约 40 小时(约一个 epoch)。。。。。。最终,, ,,,,在最优的指导强度(CFG=6.25)下,, ,,,,基线模子的 FD-DINOv2 评分为 76.25。。。。。。这个数字并不精彩,, ,,,,但它的价值在于:所有研究者都可以以此为起点,, ,,,,公正地较量各自的刷新效果。。。。。。

研究团队还提供了三个差别规模的训练集版本:GPIC-Nano(100 万张)、GPIC-Lite(1000 万张)和 GPIC-Full(1 亿张),, ,,,,利便资源有限的团队在小规模上迭代,, ,,,,有足够算力的团队再在完整数据集上验证。。。。。。

一个开放基础设施的意义

视觉天生领域正在履历一场「军备竞赛」。。。。。。Sora、Imagen、Stable Diffusion 3……前沿模子的能力每隔几个月就会跃升一级。。。。。。但这场竞赛,, ,,,,在相当水平上是不透明的:每个实验室都在自己的数据上训练,, ,,,,用自己的指标评估,, ,,,,宣布时只挑选对自己有利的数字汇报。。。。。。

果真、可复现的基准,, ,,,,是科学前进的基础。。。。。。学界在 NLP 领域已经为此支付了多年起劲,, ,,,,逐步建设起了 GLUE、SuperGLUE、BIG-bench 等相对标准化的评测系统。。。。。。视觉天生,, ,,,,迟迟缺少这样的基础。。。。。。

GPIC 的宣布是一次为这个领域补课的实验,, ,,,,是为了让整个领域有一个配合的起跑线。。。。。。正如李飞飞团队在论文中所写的:「我们希望 GPIC 能够推动视觉天生建模领域果真、可及、可复现的研究。。。。。。」

@陈佳伯:澳门玄武版金牛版,, ,,,,男子用牙签剔牙引发重症破伤风
@郑佩珊:马克龙:送还掠夺非洲的文物不可阻挡
@王素玉:王力宏奚落机械人唱歌不可

热门排行

【网站地图】