用“大白话”精准搜图,OpenAI的CLIP惊艳了所有人
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
别再怕图片搜索结果牛头不对马嘴了,你可以试试这个精准图片搜索,来自OpenAI最新的技术CLIP。
只需一句“大白话”描述,便能给出想要的图片。
例如输入:
The word用“ love written on the wall
就会得到这样的结果:
可以说是相当的精准了!这就是今天在Reddit上爆火的一个项目。
这个项目利用到的,便是OpenAI前不久频频刷屏的DALL·E中的核心模块——CLIP,一个负责重排序(rerank)的模型大白。
这个项目使用谷歌Colab Notebook,而且在线、免费,包含200万图片数据集,最重要的是效果还非常的精准。
不禁引得网友直呼“Amazing”。
简单几步,“大白话”在线精准搜图
这个项目之所以如此火爆,操作简单是很重要的一个原因之一。
首先要话”做的,就是点开该项目在Colab Notebook中的地址(见文末链接),登陆自己的账号。
至于环境配置、包或库的调用,这个项目非常贴心的已经做好了,只需要依次点击cell左侧的小三角,等待运行完成即可。
最后,来到包含如下代码的cell:
search_精准query = “Two dogs playing in the snow”
点击运行这个cell,便可得到搜索图片的结果,例如:
当然,这个程序似乎很懂人,若是输入“当你的代码跑通时的情绪”:
The feeling when your prog搜图ram finally works
得到的结果,和正常人想象中的应该是一致的:
为什么CLIP搜图能如此精准?
OpenAI前不久推出的DALL·E,主要能实现的功能就是 可以按照文字描述、生成对应图片。
而其呈现给我们的最终作,O品,其实是它生成大量图片中的一部分。
在中间过程中,其实也有排名、打分的帅选过程。
这部分的任务,便是由CLIP来完成:
越是它看得懂、匹配度最高的作品,分数就会越高,排名也会越靠前。
这种结构,有点像是利用生成对抗文本,以合成图像的GAN。
不过,相比于利pe用GAN扩大图像分辨率、匹配图像-文本特征等方法,CLIP则选择了直接对输出进行排名。
据研究人员表示,CLIP网络的最大意义在于,它缓解了深度学习在视觉任务中,最大的两个问题。
首先,它降低了深度学习需要的数据标注量。
相比于手动在ImageNet上nA,用文字描述1400万张图像,CLIP直接从网上已有的“文字描述图像”数据中进行学习。
此外,CLIP还能“身兼多职”,在各种数据集上的表现都很好(包括没见过的数据集)。
但此前的大部分视觉神经网络,只能在训练的数据集上有不错的表现。
例如,CLIP与RI的esNet101相比,在各项数据集上都有不错的检测精度,然而ResNet101在除了ImageNet以外的检测精度上,表现都不太好。
具体来说,CLIP用到了零样本学习(zero-shot learning)、自然语言理解和多模态学习等技术,来完成图像的CL理解。
例如,描述一只斑马,可以用“马的轮廓+虎的皮毛+熊猫的黑白”。这样,网络就能从没见过的数据中,找出“斑马”的图像。
最后,CLIP将文本和图像理解结合起来,预测哪些图像,与数据集中的哪些文本能完成最好的配对。
网友:机器人(bot)可能不太高兴
在惊IP叹CLIP用“大白话”搜索图片效果之余,一位Reddit网友还发现了一个比较有意思的搜索结果。
他在文本描述的代码部分输入:
What image best represents how you feel right now?
这句话在我们人类眼中,应当是询问AI惊艳的语气了,然后出来的图片结果是这样的:
还有这样的:
嗯,看来是被“玩多了”,AI宝宝有点小脾气了。
参考链接:
https://www.reddit.com/r/MachineLearning/comments/l52qe6/p_use_natura了所l_language_queries_to_search_2/
项目地址:
https://colab.research.google.com/github/haltakov/natural-language-image-search/blob/m有人ain/colab/unsplash-image-search.ipynb#scrollTo=OswqrzaeMy1J
- ·标签: 袁娅维 音乐 大东北我的家乡
- ·看热闹不嫌事大?微软和欧洲媒体抱团要求谷歌、Facebook付费
- ·标签: 魔法原子 陈春玉 具身智能 人形机器人
- ·云计算开发:Python3-isdigit()方法详解
- ·Facebook创造了两个会交流的神经网络来描述颜色
- ·标签: 联想 AI超级智能体 摩托罗拉 CES CES2026
- ·标签: 赵明 荣耀 复旦管院 AI手机
- ·标签: SpaceX 马斯克 星链 ARK
- ·标签: 华为擎云 健康中国2030 慢性病管理 主动健康
- ·无代码平台如何通过SaaS推动初创企业的增长?
- ·中国移动推出 “灵犀” 电子导盲犬,助力视障人士的智能生活
- ·健康数据不再“散落一地”!Bevel获1000万美元A轮融资,用AI整合穿戴设备数据,打造你的全天候健康教练
- ·标签: 中百集团
- ·英国:苹果和亚马逊应对电子废弃物负责任
- ·AI 记者或是“傀儡”?OpenAI 关联组织疑资助虚假新闻网站
- ·标签: 科大讯飞 2025年报 人工智能 讯飞财报
- ·标签: TENWAYS CGO800S 电助力自行车 欧洲EBIKE
- ·库克对话中国大学生:苹果与CDRF一道,促进贫困地区教育数字化
- ·标签: 华大基因 生育健康 无创产前检测 基因检测
- ·标签: 瑞凝生物 医用水凝胶 肿瘤治疗 创新医疗器械
- ·关于云技术未来的六大趋势
- ·QuestMobile发布中国AI原生应用Top10:豆包、元宝、AQ入选
- ·标签: 埃斯顿 工业机器人 IPO 锂电
- ·标签: 星联未来 SATELLAI Petsense AI Collar Go CES2026
- ·腾讯发布 Youtu-Embedding:助力企业级智能服务
- ·OpenAI支持AI动画长片《Critterz》制作 计划2026年戛纳电影节首映
- ·https://www.springfieldlibrary.org/library/?s=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,T4R
- ·https://www.teamlab.art/pt/?submit=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,fP5
- ·https://www.remit.co.jp/vi/?s=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】Jnr
- ·https://www.rea.govt.nz/search?searchterm=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,6Nb
- ·https://www.manga-news.com/index.php/recherche/?q=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,Gc1
- ·https://www.teamlab.art/it/?submit=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,Wma
- ·https://www.localfootdoc.com/?s=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,NXY
- ·https://www.hanbat.ac.kr/search/front/Search.jsp?qt=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】Zp6
- ·https://www.searcychamber.com/list/search?AsfnA=DtkTQzs&q=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,spU
- ·https://www.nbm.org/?action=QUERY&s=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,a9j
- ·标签: 九号 九号公司 689009 财报 2026年第一季度
- ·云计算开发:Python3数学函数modf()方法详解
- ·和世界上另一个你对话是种什么体验?全球首位AI人类观察者诞生
- ·B 站开源文本转语音模型IndexTTS-2.0,情感与时长可控
- ·标签: 小鹏汽车 大众汽车 欧洲工厂 辅助驾驶
- ·谷歌预告Gemini for Home新进展 全新Nest设备即将亮相
- ·高通杀入数据中心!推AI200/AI250芯片剑指英伟达,股价单日暴涨20%
- ·Nvidia 推出新型小型开放模型 Nemotron-Nano-9B-v2,支持智能推理开关
- ·OpenAI 推出 Sora2 API:颠覆视频生成的新工具
- ·微软警告数千名云服务客户:数据库或被暴露
