OpenStack的HugePages内存大页动态分配的探索与实践
持续提升虚拟机性能是所有云计算工程师研究的方向,其中一个重要方式便是使用大页内存。本文从内存映射出发为读者浅析大页内存的相关概念和基础操作,并以此为延伸,与各位分享华云产品技术中心计算团队在大页内存动态分配方面的探索与实践。
MMU 与内存映射
在计算机系统结构中,我们知道,CPU是通过寻址来Op访问内存的。例如,32 位 CPU 的寻址宽度是 0~0xFFFFFFFF ,通过换算可得为 4G,即可支持的物理内存最大是 4G。
然而在实践过程中会产生各种各样的问题,若某个程序需要使用 4G 内存,而此时可用的物理内存小于 4G,这就导致程序不得不降低内存的占用。因此为了解决此类问题,现代 CPU 引入了 MMenU(Memory Management Unit 内存管理单元)。MMU 的核心思想是利用虚拟地址替代物理地址,即CPU寻址时使用虚址,由 MMU 负责将虚址映射为物理地址。 MMU的引入,解决了对物理内存的限制。
而内存映射则是将虚拟内存地址映射到物理内存地址。为了完成内存映射,内核为每个进程都维护了St一张页表,记录虚拟地址与物理地址的映射关系。
页表实际上存储在 CPU 的内存管理单元 MMU 中,这样,CPU 就可以直接通过硬件,找出要访问的内存。
什么是 HugePages
大页内存(HugePages),顾名思义就是拥有更大页面的内存页,HugePages 提供了 4K 页面大小的替代方案,即提供更大的页ac面,在特定场景下对于性能有着非常明显的提升。
HugePages 的查看与分配
在 Linux 中,可以使用如下命令查看大页内存
我们对其中的字段分别做一下解释
AnonHugePages: 透明大页的大小
HugePages_Total: 大页资源池中的大页总量
HugePages_Free: 池中未使用的大页的数k的量
HugePages_Rsvd: 已经被分配预留但是还没有使用的大页数目
HugePages_Surp: 池中大于/proc/sys/vm/nr_hugepages 中值的 HugePages 数量
HugePagesize: 单块大页的大小
通常来说,我们会使用 2M 的大页,即 HugePagesize = 2048 KBHu。
请注意,这里关于大页所有的单位都是数量(页),而不是大小(KB)。举个例子,如图所示,HugePages_Total 的值为 100,那么在这台机器上大页会占用多少的内存呢?
答案是 200M,即 HugePages_Total * HugePagesize,100 * 2048KB = 200M。
那么,如ge何分配 HugePages 呢?
分配 HugePages 主要有两种方法。
一是修改 /etc/grub2.cfg 文件中启动菜单的内核参数,这样做的好处在于,当系统启动时,拥有连续内存的空间(用于 HugePages 分配)的机会要大得多。
二是通过 sysctl vm.nr_hugepages 的命令进行临时Pa分配,这种方式胜在分配灵活,而弊端则是,当系统内存被使用到一定程度时,连续内存页的数量会变少,即在物理内存有剩余时,却无法分配 HugePages 。
OpenStack 社区的方案
在 OpenStack 中,libvirt 的 driver 会去检查用户是否在 flavor 中配置大页的相关选项,并直接从已分配ge的资源池中划分相关资源给虚拟机。
这就带来了一个问题,即大页资源池需要用户提前分配。提前分配好的大页资源池会直接占据这部分的内存空间,且随着资源池内可用大页数量的降低,用户在一段时间后无法继续创建大页内存的虚拟机。
归根结底,OpenStack 本身并没有提供一套用于管理和维护大页资源池的机制。
As内rStack 做了哪些尝试
这就回到了这篇分享的主题,有什么办法能够尽可能多地创建高性能的大页虚拟机,同时又避免云平台初期大页资源池分配时,过多地占用系统内存呢?
基于这一出发点,华云计算团队设计了一套动态维护大页资源池的系统。
用户可以在系统初始化时,以一个较低的值手动设置初始大页资源池的大小,No存大va 的某个周期性定时任务会在一定时间间隔内检查各个计算节点的大页资源池是否满足预设的策略。
当初始资源池消耗殆尽时,Nova 会对大页资源池进行自动扩容,以维持一个资源相对富裕的状态。同时,Nova-Scheduler 在创建大页虚拟机时也会对各个节点的计算资源进行检查,若都不满足虚拟机所需资源页动, Nova-Scheduler 会计算相应的资源缺口,并尝试进行扩容。
在大页虚拟机被删除后,相应的大页资源会被释放,并流入大页资源池。此时,Nova 检测到该计算节点的大页资源池存在过多未被分配的大页时,会进行缩容操作,以释放被占用的物理内存,从而减少了物理内存占用过多的情况。
基于这套动态分配方案态分,最终实现了性能与灵活兼得的目标。
后记
OpenStack 中很多逻辑都是牵一发而动全身的,在实践过程中,Nova-Scheduler 、NUMA 以及 ArStack 的内存预分配都针对 HugePages 相关场景进行了对应的调整和优化。
在此感谢计算团队所有同学的辛勤付出。未来,ArStack 会继续努力,配的持续为用户提供更加优质的私有云产品。
- ·8张图,看懂数据驱动业务的六个层次
- ·标签: 杨立昆 AMI 勒布伦 人工智能
- ·斯坦福顶尖科学家许主洪加盟阿里通义
- ·标签: 云英谷科技 OLED驱动芯片 AMOLED Micro-OLED
- ·温州正式成立人工智能局,浙江率先布局 AI 治理
- ·云安全日报210521:IBM身份管理解决方案发现执行任意代码漏洞,需要尽快升级
- ·马斯克宣布 xAI Grok-2.5开源,称中国公司将成为最强竞争对手
- ·外媒:亚马逊和谷歌赢得日本政府云计算合同
- ·标签: 闻献 愚园书室 夜庙 亮堂空间
- ·AigcPanel 1.3.0版本重磅更新,直播与图像生成双双上线
- ·标签: 贝塔无限 刘武龙 陶帅 具身智能
- ·云安全日报210714:Adobe Acrobat和Reader软件发现任意代码执行漏洞,需要尽快升级
- ·标签: 豆伴匠 人教点读 中公教育 不厌书法
- ·阿里大调整,李飞飞出任阿里云CTO
- ·标签: 钛动科技 钛极大模型 Navos AI营销
- ·标签: 滴滴出行 春运打车 滴滴充电 滴滴加油
- ·https://www.pierreherme.com/catalogsearch/result/?q=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,aBp
- ·https://www.impactpool.org/search/?type=79&q=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】e69
- ·https://www.maine.gov/pfr/professionallicensing/search/node?keys=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,Jju
- ·https://www.reallywildbirdfood.co.uk/store/search?q=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,qYu
- ·https://www.impactpool.org/search/?type=79&q=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】kHe
- ·https://www.woorden.org/spreekwoord.php?woord=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,79g
- ·https://www.skicheck.at/en/?action=CHECK&s=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,mcz
- ·https://www.mi.com/search?keyword=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,1SK
- ·https://search.danawa.com/dsearch.php?query=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】avn
- ·https://yokohama-oht.com/?action=CHECK&s=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,gZS
- ·谷歌再次排挤AI研究员:伦理AI部门负责人因声援同事被锁定权限
- ·阿里云总裁张建锋:定义下一代的云 中国云计算就有超车机会
- ·标签: 张雪机车 820RR 摩托车安全
- ·标签: 大族数控 PCB设备 港交所上市
- ·标签: 千里智驾 陈奇 自动驾驶 智能驾驶
- ·只低一毫米,时间也会变慢!科学家首次在毫米尺度验证广义相对论
- ·腾讯AudioGenie横空出世!一键生成电影级音效,Claude与Gemini瑟瑟发抖!
- ·英国制定新监管法规 重点监管谷歌和Facebook等巨头
- ·微软发布 UserLM-8b:“陪练伙伴”模型以逼真多轮对话精炼 AI 助手
- ·WisdomAI 推出“Proactive Agents”,让 AI 成为 24/7 的数据分析师
