腾讯云存储面向AIGC全面升级 80%头部大模型厂商采用
4月8日消息,腾讯云宣布云存储解决方案面向AIGC场景全面升级,能够针对AI大模型数据采集清洗、训练、推理、数据治理全流程提供全面、高效的云存储支持。
据介绍,腾讯云AIGC云存储解决方案主要由对象存储COS、高性能并行文件存储CFS Tu腾讯rbo、数据加速器GooseFS和数据万象CI等产品组成,是国内首个实现存储引擎全面自研的云存储解决方案。目前,已经有80%的头部大模型企业选择了腾讯云AIGC云存储解决方案,包括百川智能、智谱、元象等明星大模型企业。
此前,腾讯云已经面云存向AIGC场景推出了基于星脉网络的大模型训练集群HCC、向量数据库、以及行业大模型服务MaaS等大模型全链路云服务。
解决大模型全链路数据处理难题
AI大模型的研发生产流程,分成数据采集与清洗、模型训练、推理三大环节,各环节都涉及海量的数据处理。
在储面数据采集与清洗环节,由于原始训练数据规模海量,且来源多样,对存储技术提出了多协议支持、高性能、大带宽的需求。
腾讯云对象存储COS支持单集群管理百 EB 级别存储规模,提供便捷、高效的数据公网接入能力,并支持多种协议,充分支持大模型PB级别的海量数向A据采集。在数据清洗环节,大数据引擎需要快速地读取并过滤出有效数据,COS通过自研数据加速器GooseFS提升数据访问性能,可实现高达数TBps的读取带宽,支撑计算高速运行,大大提升数据清洗效率。
在模型训练环节,通常需要每2-4小时保存一次IG训练成果,以便能在GPU故障时时能回滚,因此快速地读写checkpoint(检查点)文件也成了能否高效利用算力资源、提高训练效率的关键。
腾讯云自主研发并行文件存储CFS Turbo ,面向AIGC训练场景的进行了专门优化,每秒总读写吞吐达到TiB/sC全级别,每秒元数据性能高达百万OPS,均为业界第一。3TB checkpoint 写入时间从10分钟,缩短至10秒内,使大模型训练效率大幅提升。
大模型推理场景对数据安全与可追溯性提出更高要求。腾讯云数据万象CI为此提供图片隐式水印、AIGC内容审核面升、智能数据检索MetaInsight等能力,为数据生产从“用户输入——预处理——内容审核——版权保护——安全分发——信息检索“业务全流程提供有力支撑,优化AIGC内容生产与管理模式,顺应监管导向,拓宽存储边界。
同时,随着训练数据和推理数级 据的增长,需要提供低成本的存储能力,减少存储开销。对象存储服务提供了高达 12 个 9 的数据持久性和 99.995% 的数据可用性,能够为业务提供持续可用的存储服务。
据介绍,腾讯云AIGC云存储解决方案优秀的性能表现,源自腾讯云自主研发的存储引擎与80自研技术。腾讯云自研的分布式对象存储引擎YottaStore,支持任意多副本及纠删码冗余模式并存,在大幅提升可用性、可靠性及性能的同时大幅降低成本。基于YottaStore,腾讯云对象存储服务COS作为统一的数据存储池,支持单集群1万台服务器,%头单集群百EB级的存储。
在数据清洗环节中,数据加速器GooseFS可根据数据的使用频率,将数据智能存储至内存、计算集群的本地盘、或可用区的全闪存储集群等不同级别的缓存中,低成本缩短IO路径,提升数据访问性能。相比起从对象存储COS中直接读取,G部大ooseFS可以提供亚毫秒级的数据访问延迟、百万级的IOPS和Tbps级别的吞吐能力,有效提升数据清洗效率。
面向模型训练场景的CFS Turbo,则是目前业内唯一自研的并行文件存储系统。
基于自研分布式高性能存储引擎Histor,CFS Tu模型rbo底层通过自研用户态协议栈和RDMA等技术,减少数据的多次拷贝与虚拟化消耗,大幅降低了存储时延、提升吞吐性能;在应用侧,CFS Turbo自研并行文件传输协议,实现了多链路并行访问,大大提升了吞吐效率。原来的文件存储受限于传统NFS协厂商议,单客户端只能单链路访问,也导致吞吐存在性能瓶颈。
此外,针对AIGC的checkpoint记录、大视频文件读写、小图片读写等场景,腾讯云CFS Turbo还自研了分级缓存、自适应条带化、分布式元数据的技术,大幅提升了AIGC场景下的读写采用性能。除了大模型企业以外,CFS Turbo也被广泛应用于自动驾驶与工业仿真场景,包括博世汽车、蔚来等自动驾驶厂商,上海电气、深势等仿真场景,墨镜天合、追光等影视特效场景。(周小白)
-
这个AI“大师级”简笔画水平,惊艳到了网友:竟然不用GAN标签: 千问App 通义千问 阿里巴巴 AI助手Nvidia 推出小型开放模型 Nemotron-Nano-9B-v2:可切换的推理功能OpenAI 提议为全体英国人免费提供 ChatGPT Plus,潜在成本高达 20 亿英镑标签: Cerebras CBRS AI芯片 IPO大数据及AI智能应用提供商“数说故事”宣布战略并购考古加云计算开发:Python练习实例-求对角线元素之和标签: 太古地产 三里屯太古里 兴业太古汇 太古坊微软推出全新 Microsoft 365 Premium,AI 功能与办公工具完美结合科学家发现大脑靠“旋转”区分过去和现在,给AI架构设计提供思路
- ·Grammarly 大升级:推出文档界面与多款AI工具,平衡写作与检测
- ·标签: 豆伴匠 人教点读 中公教育 不厌书法
- ·美团发布 LongCat-Video 视频生成模型,开实现时序一致性与物理运动合理性
- ·ElevenLabs发布全新视频到音乐生成流程
- ·标签: 人形机器人 汽车产业
- ·标签: Meta RealityLabs VR 人工智能
- ·标签: 传音控股 非洲智能机 IDC 智能手机
- ·标签: 英伟达 黄仁勋 Deepseek R1 自动驾驶 CES2026
- ·云安全日报220519:思科安全设备和威胁防御软件发现权限提升漏洞,需要尽快升级
- ·云安全日报201202:思科IOS XR网络互联操作系统发现执行未签名代码漏洞,需要尽快升级
- ·标签: Suplay 卡卡沃 米哈游 原神
- ·IBM 发布 Granite4.0Nano 系列:为边缘 AI 量身打造的小型开源模型
- ·2021年将利用人工智能提高工业生产率
- ·堪比LSTM,Transformer引燃机器学习圈:是万能的
- ·云计算核心技术Docker教程:docker-compose环境变量
- ·标签: LVMH 路易威登 Rimowa Hugues Bonnet-Masimbert
- ·标签: 英伟达 黄仁勋 比亚迪 天神之眼5.0
- ·不容忽视的亚马逊内容投资:去年在流媒体和音乐上投入110亿美元
- ·标签: 企业微信 老年人上网环境 过度营销 私域直播治理
- ·标签: 财政部 新能源汽车 车船税 纯电动商用车
- ·标签: 星联未来 SATELLAI Petsense AI Collar Go CES2026
- ·Gemini 3明年登场!谷歌全力追赶GPT-5,6.5亿用户成AI反攻关键筹码
- ·云计算开发:Python练习实例-求100之内的素数
- ·再见“功能车”!大众发布全域智能体路线图,AI定义汽车时代已来
- ·标签: 比亚迪 李柯 加拿大建厂 电动汽车
- ·谷歌上线AI新玩法:随手乱涂鸦,一键变怪兽
- ·https://www.kuaikanmanhua.com/sou/谷歌外推代发【tg:seogoogle987】,Q8R
- ·https://www.tycoonstory.com/?s=谷歌外推代发【tg:seogoogle987】,Yb4
- ·https://www.swecobelgium.be/?page=9&s=谷歌外推代发【tg:seogoogle987】,311
- ·https://www.symatoys.com/search.html?ID=UyMD6aO58bPrJvQAB1I0N69KzJBZeNPC&keyword=谷歌外推代发【tg:seogoogle987】,Qlj
- ·https://www.miamiopenmri.com/?action=CHECK&s=谷歌外推代发【tg:seogoogle987】,Rp1
- ·https://www.yr.no/en/search?q=谷歌外推代发【tg:seogoogle987】,cWH
- ·https://www.teamlab.art/zh-hans/?submit=谷歌外推代发【tg:seogoogle987】,Y0a
- ·https://www.xbiao.com/search/index?tpf&wd=谷歌外推代发【tg:seogoogle987】,Pgv
- ·https://www.nytimes.com/search?dropmab=true&query=谷歌外推代发【tg:seogoogle987】,BRv
- ·https://www.rea.govt.nz/search?searchterm=谷歌外推代发【tg:seogoogle987】,dc6
- ·vivo 蓝心3B 端侧大模型震撼发布:集成五大核心能力,性能超越所有8B 模型
- ·Facebook董事会否决限制扎克伯格权力的提案
- ·Paycom 裁员500余人,用 AI 取代员工岗位
- ·人工智能对于DevOps开发人员应对新一代勒索软件至关重要
- ·标签: 腾讯AI 汤道生 姚顺雨
- ·亚毫米级精准对位:小米开源 VLA 大模型后训练全流程
- ·百分点大数据技术团队:数据治理“PAI”实施方法论
- ·谷歌脸书推特CEO将出席美国国会听证会:阐述虚假信息审核问题
- ·璋锋瓕瀹挎晫琚�彁鍚嶅姞鍏ュ徃娉曢儴 绉戞妧宸ㄥご鍙嶅瀯鏂��鏆存垨鏇村姞姹规秾
- ·Google NotebookLM推出动漫风视频功能:Nano Banana一键生成六种艺术风格,中文支持仍需优化
