CVPR 2023论文总结!CV最热领域颁给多模态、扩散模型
小伙伴们有没有觉得学习科技周边很有意思?有意思就对了!今天就给大家带来《CVPR 2023论文总结!CV最热领域颁给多模态、扩散模型》,以下内容将会涉及到,若是在学习中对其中部分知识点有疑问,或许看了本文就能帮到你!
一年一度的CVPR即将在6月18-22日加拿大温哥华正式开幕。
每年,来自世界各地的成千上万的CV研究人员和工程师聚集在一起参加顶会。这个久负盛名的会议可以追溯到1983年,它代表了计算机视觉发展的巅峰。
目前,CVPR的h5指数所有会议或出版物中位列第四,仅次于《自然》、《科学》和《新英格兰医学杂志》。
前段时间,CVPR公布了论文接收结果。根据官网上统计数据,一共接受论文9155篇,录用2359篇,接受率为25.8%。
此外,还公布了12篇获奖候选论文。
那么,今年的CVPR有哪些亮点?从录用论文中我们又能看到CV领域有哪些趋势?
接下来一并揭晓。
CVPR一览
初创公司Voxel51就所有被接收论文列表中进行了分析。
先来整体看一张论文标题的汇总图,每个字的大小与数据集中出现的频率成正比。
简要说明
- 2359篇论文被接收(9155份论文提交)
- 1724篇Arxiv论文
- 68份文件提交到其他地址
每篇论文的作者
- CVPR论文的平均作者约为5.4人
- 论文当中作者最多的是: 「Why is the winner the best?」有125位作者
- 有13篇论文只有一个作者。
主要Arxiv分类
在1724篇Arxiv论文中,有1545篇,或者说接近90%的论文将cs.CV列为主要类别。
cs.LG位列第二,有101篇。eess.IV (26)和 cs.RO (16)也分得一杯羹。
CVPR 论文的其他类别包括: cs.HC,cs.CV,cs.AR,cs.DC,cs.NE,cs.SD,cs.CL,cs.IT,cs.CR,cs.AI,cs.MM,cs.GR,eess.SP,eess.AS,math.OC,math.NT,physics.data-an和stat.ML。
「Meta」数据
- 「数据集」和「模型」这2个词共同出现在567篇摘要中。「数据集」在265篇论文摘要中单独出现,而「模型」则单独出现了613次。只有16.2%的 CVPR接收论文没有包含这两个词。
- 根据CVPR论文摘要,今年最受欢迎的数据集是ImageNet(105),COCO(94),KITTI(55)和CIFAR(36)。
- 28篇论文提出了一个新的「基准」。
缩写词比比皆是
似乎没有首字母缩略词就没有机器学习项目。2359篇论文中,1487篇的标题有多个大写字母的缩略词或复合词,占比63%。
这些首字母缩略词中有一些很容易记住,甚至可以脱口而出:
- CLAMP: Prompt-based Contrastive Learning for Connecting Language and Animal PoseCLAMP
- PATS: Patch Area Transportation with Subdivision for Local Feature Matching
- CIRCLE: Capture In Rich Contextual Environments
有些则要复杂得多:
- SIEDOB: Semantic Image Editing by Disentangling Object and Background
- FJMP: Factorized Joint Multi-Agent Motion Prediction over Learned Directed Acyclic Interaction GraphsFJMP
他们中的一些人似乎在首字母缩略词构建上借鉴了别人的创意:
- SCOTCH and SODA: A Transformer Video Shadow Detection Framework(荷兰流行潮牌Scotch & Soda)
- EXCALIBUR: Encouraging and Evaluating Embodied Exploration(Ex咖喱棒,笑)
什么最热?
除了2023年的论文标题,我们抓取了2022年所有接受的论文标题。从这两个列表中,我们计算了各种关键词的相对频率,从让大家对什么是上升趋势、什么是下降趋势有更深入的了解。
模型
2023年,扩散模型(Diffusion models)占据了主导地位。
扩散模型
随着Stable Diffusion和Midjourney等图像生成模型的走红,扩散模型发展的火热趋势也就不足为奇了。
扩散模型在去噪、图像编辑和风格转换方面也有应用。把所有这些加起来,到目前为止,它是所有类别中最大的赢家,比去年同期增长了573% 。
辐射场
神经辐射场(NERF)也越来越受欢迎,论文中使用单词「radiance」增加了80% ,「NERF」增加了39% 。NeRF已经从概念验证转向编辑、应用和训练过程优化。
Transformers
「Transformer」和「ViT」的使用率下降并不意味着Transformer模型过时,而是反映了这些模型在2022年的主导地位。2021年,「Transformer」这个词只出现在37篇论文中。2022年,这个数字飙升至201。Transformer不会很快消失。
CNN
CNN曾经是计算机视觉的宠儿,到了2023年,似乎失去了它们的优势,使用率下降了68%。许多提到 CNN 的标题也提到了其他模型。例如,这些论文提到了CNN和Transformer:
- Lite-Mono: A Lightweight CNN and Transformer Architecture for Self-Supervised Monocular Depth EstimationLite-Mono
- Learned Image Compression with Mixed Transformer-CNN Architectures
任务
掩码任务和掩码图像建模相结合,在CVPR中占据了主导地位。
生成
传统的判别任务,如检测、分类和分割并没有失宠,但是由于生成应用的一系列进步,它们在CV的份额正在缩小,包括「编辑」、「合成」以及「生成」的上升就证明这点。
掩码
关键字「mask」比去年同期增长了263% ,在2023年被接收的论文中出现了92次,有时在一个标题中出现了2次。
- SIM: Semantic-aware Instance Mask Generation for Box-Supervised Instance SegmentationSIM
- DynaMask: Dynamic Mask Selection for Instance SegmentationDynaMask
但大多数(64%)实际上指的是「掩码」任务,包括8个「掩码图像建模」和15个「掩码自动编码器」任务。此外,还有8篇出现「掩码」。
同样值得注意的是,3篇带有单词「mask」的论文标题实际上指的是「无掩码」任务。
零样本vs小样本
随着迁移学习、生成方法、提示和通用模型的兴起,「零样本」学习正在获得关注。与此同时,「小样本」学习比去年有所下降。然而,就原始数字而言,至少目前而言,「小样本」(45)比「零样本」(35)略有优势。
模态
2023年,多模态和跨模态应用加速发展。
边界模糊
虽然传统计算机视觉关键词如「图像」和「视频」的频率相对保持不变,但「文本」/「语言」和「音频」出现的频率更高。
即使「多模态」这个词本身没有在论文标题中出现,也很难否认计算机视觉正在走向多模态的未来。
这在视觉-语言任务中尤其明显,正如「开放」、「提示」和「词汇」的急剧上升所表明的那样。
这种情况最极端的例子是「开放词汇」这个复合词,它在2022年只出现了3次,但在2023年出现了18次。
深入挖掘CVPR 2023论文标题中的关键词
点云9
三维计算机视觉应用正在从以二维图像推断3D信息(「深度」和「立体」)转向直接在3D点云数据上进行工作的计算机视觉系统。
CV标题的创造力
如果不将ChatGPT纳入其中,2023年任何与机器学习相关的全面报道都是不完整的。我们决定让事情变得有趣,并使用ChatGPT来寻找CVPR 2023中最有创意的标题。
对于每一篇上传到Arxiv的论文,我们抓取了摘要,并要求 ChatGPT (GPT-3.5 API)为相应的CVPR论文生成一个标题。
然后,我们将这些由ChatGPT生成的标题和实际的论文标题,使用OpenAI的text-embedding-ada-002模型生成嵌入向量,并计算ChatGPT生成的标题和作者生成的标题之间的余弦相似度。
这可以告诉我们什么?ChatGPT越接近实际的论文标题,这个标题就越可预测。换句话说,ChatGPT的预测越「偏」,作者给论文命名的「创造性」就越强。
嵌入和余弦相似度为我们提供了一个有趣的,尽管远非完美的,量化方法。
我们按照这个指标对论文进行了排序。话不多说,下面是最具创造性的标题:
实际的标题:Tracking Every Thing in the Wild
预测的标题:Disentangling Classification from Tracking: Introducing TETA for Comprehensive Benchmarking of Multi-Category Multiple Object Tracking
实际的标题:Learning to Bootstrap for Combating Label Noise
预测的标题:Learnable Loss Objective for Joint Instance and Label Reweighting in Deep Neural Networks
实际的标题:Seeing a Rose in Five Thousand Ways
预测的标题:Learning Object Intrinsics from Single Internet Images for Superior Visual Rendering and Synthesis
实际的标题:Why is the winner the best?
预测的标题:Analyzing Winning Strategies in International Benchmarking Competitions for Image Analysis: Insights from a Multi-Center Study of IEEE ISBI and MICCAI 2021
今天带大家了解了的相关知识,希望对你有所帮助;关于科技周边的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~

- 上一篇
- GPT4ALL:终极开源大语言模型解决方案

- 下一篇
- 微软发布 Windows Insider Server Preview Build 25120
-
- 开放的薯片
- 这篇技术贴真及时,太全面了,受益颇多,收藏了,关注师傅了!希望师傅能多写科技周边相关的文章。
- 2023-06-07 11:09:47
-
- 科技周边 · 人工智能 | 1小时前 |
- 手机DeepSeek入驻腾讯会议:实时转录功能实测!
- 198浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 |
- 拼多多商家看过来!DeepSeek营销话术生成秘籍
- 261浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 |
- 印象笔记DeepSeek强强联手,文档归档检索效率飞升!
- 127浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 |
- DeepSeek与微博内容创作结合 热点自动追踪生成指南
- 403浏览 收藏
-
- 科技周边 · 人工智能 | 2小时前 |
- Jaaz— 开源AI设计工具,可以智能生成设计提示
- 255浏览 收藏
-
- 科技周边 · 人工智能 | 2小时前 |
- 抗压方案合集!六种稳定访问DeepSeek满血版的核心技术方案
- 271浏览 收藏
-
- 科技周边 · 人工智能 | 2小时前 |
- 即梦AI画质修复秘籍:模糊变清晰,大神教你!
- 464浏览 收藏
-
- 科技周边 · 人工智能 | 2小时前 | 三代半
- 碳化硅龙头传破产 转单来了
- 405浏览 收藏
-
- 科技周边 · 人工智能 | 2小时前 |
- 即梦ai如何导出高清视频 即梦ai视频导出格式教程
- 443浏览 收藏
-
- 科技周边 · 人工智能 | 2小时前 |
- B站UP主必备:DeepSeek智能视频策划全攻略
- 360浏览 收藏
-
- 科技周边 · 人工智能 | 2小时前 |
- 即梦ai如何添加粒子特效 即梦ai动态元素生成攻略
- 388浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- 互联网信息服务算法备案系统
- 了解互联网信息服务算法备案系统,掌握如何进行算法备案的详细步骤和要求,确保您的互联网服务合规运营。
- 56次使用
-
- 魔匠AI
- SEO摘要魔匠AI专注于高质量AI学术写作,已稳定运行6年。提供无限改稿、选题优化、大纲生成、多语言支持、真实参考文献、数据图表生成、查重降重等全流程服务,确保论文质量与隐私安全。适用于专科、本科、硕士学生及研究者,满足多语言学术需求。
- 102次使用
-
- PPTFake答辩PPT生成器
- PPTFake答辩PPT生成器,专为答辩准备设计,极致高效生成PPT与自述稿。智能解析内容,提供多样模板,数据可视化,贴心配套服务,灵活自主编辑,降低制作门槛,适用于各类答辩场景。
- 132次使用
-
- Lovart
- SEO摘要探索Lovart AI,这款专注于设计领域的AI智能体,通过多模态模型集成和智能任务拆解,实现全链路设计自动化。无论是品牌全案设计、广告与视频制作,还是文创内容创作,Lovart AI都能满足您的需求,提升设计效率,降低成本。
- 237次使用
-
- 美图AI抠图
- 美图AI抠图,依托CVPR 2024竞赛亚军技术,提供顶尖的图像处理解决方案。适用于证件照、商品、毛发等多场景,支持批量处理,3秒出图,零PS基础也能轻松操作,满足个人与商业需求。
- 122次使用
-
- GPT-4王者加冕!读图做题性能炸天,凭自己就能考上斯坦福
- 2023-04-25 501浏览
-
- 单块V100训练模型提速72倍!尤洋团队新成果获AAAI 2023杰出论文奖
- 2023-04-24 501浏览
-
- ChatGPT 真的会接管世界吗?
- 2023-04-13 501浏览
-
- VR的终极形态是「假眼」?Neuralink前联合创始人掏出新产品:科学之眼!
- 2023-04-30 501浏览
-
- 实现实时制造可视性优势有哪些?
- 2023-04-15 501浏览