为了满足 GPT-3、CLIP 和 DALL+ 等大型模型的需要，以及类似于神经语言模型的缩放定Op律的快速小规模迭代研究，OpenAI 将基础设施 k8s 集群扩展到 7500 各节点。

据其描述，对en于大型机器学习作业来说，一个节点通常由单个 pod 占据，并且 OpenAI 部署的集群具有二等AI分带宽，因此尽管其有许多节点，但是调度程序的压力相对较低，仅在一项新任务一次性创建数百个 pod 将 时会有调度压力。

除此之外，OpenAI 还详细说明了其在扩展 k8s 集群时的重要工作内容，比如通过改 k用基于别名的 IP 寻址来解决大量节点的联网问题，在专用节点上部署 etcd 和 API 服务器以分散负8s载，定位使用 Prometheus 和 Grafana 收集指标时的 OOM 问题，设计对集群的健康 扩检查，以及在团队中合理分配集群资源等。

不过，OpenAI 也指出，在扩展 k8s 集群时，目前仍有一些展至问题要解决，比如大规模时 Prometheus 的内置 TSDB 存储引擎压缩速度过慢，并且需要很 7长的时间才能重新启动 WAL(写入预录)，以及扩展集群时，由于每个 pod 都会被计算为需要一50定带宽而带来的网络带宽压力。然而，尽管还有很多地方需要改进，但 k8s 凭借其出色的扩展能力，仍0 然能满足其研究需求。

本文转自OSCHINA

本文标题：OpenAI 将 k8s 扩展至 7500 个节个节点以支持机器学习

本文地址：https://www.oschina.net/news/127949/点以openai-scale-k8s-7500

• ·大手笔！微软本财年将斥资800亿美元建设AI数据中心
• ·谷歌开盘涨超4% 一季度营收、净利润超预期
• ·​开源 AI 客户端 Cherry Studio 升级：v1.6.0 正式发布
• ·云安全日报210819：思科小型企业路由器发现执行任意代码漏洞,需要尽快升级
• ·标签: 同程旅行 DeepTrip 西安榆林航线 奔县游
• ·标签: OPPO FindN6 三星 刘作虎
• ·标签: 理想汽车 理想L9 马赫M100芯片 端侧AI
• ·云计算开发：Python练习实例-顺序排号
• ·标签: 昆仑芯 百度 AI芯片 港交所上市
• ·面向未来的AI自动化测试工具 译文
• ·标签: 振宏重工 北交所IPO 风电主轴 锻件制造
• ·Adobe 招聘新标准:鼓励求职者使用 AI 展现“创造力+技术”双重技能
• ·标签: 文石BOOX 港交所上市 招股书 AI读写终端
• ·Hive底层原理：Explain执行计划详解
• ·阿里云：坚持伙伴优先 对伙伴收入占比提出明确数字要求
• ·亚马逊云计算业务CEO计划调整产品策略 为特定行业推出更多定制产品