在人工智能浪潮席卷全球的当下,企业IT世界正面临一场深刻的变革。一方面,混合云已从“可选项”变为“必需品”,虚拟化技术的现代化迫在眉睫;另一方面,AI正从云端走向边缘,从模型训练走向规模化推理,对算力、成本和管理效率提出了前所未有的挑战。
近日,红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)携其高管团队,深度解读了红帽AI的战略部署,以及红帽如何通过其全栈开源方案,帮助企业在驾驭当前挑战的同时,赢取AI时代的未来。
红帽AI来了!
2024年被业界普遍视为“AI推理元年”。红帽大中华区方案架构部总经理王慧慧(Aella Wang)在分享中指出,前几年的行业焦点还在于训练出更强大的模型,而今后的产业核心议题,将是如何将这些模型真正在生产环境中运行起来,通过“推理”为企业创造“真金白银”的价值。
红帽大中华区方案架构部总经理王慧慧
“推理是真正为企业带来好处的技术,”王慧慧强调。面对这一趋势,红帽发布了其在AI领域的“重磅武器”——红帽AI推理服务器(Red Hat Inference Server)。该产品基于AI业界知名的vLLM开源社区技术打造,而红帽正是该社区排名第一的贡献者。值得注意的是,来自中国的贡献者(包括红帽中国员工)占社区贡献量的35%,这预示着中国市场在AI推理领域的巨大潜力。
企业在拥抱AI时,最大的顾虑往往是算力成本和安全。曹衡康表示,红帽AI战略的核心特色在于开源、小模型和成本效益。这与当前市场上对AI应用的普遍期待不谋而合。对此,王慧慧进一步解释道:“我们要做的事情,就是用最小的硬件设备、最少的成本,完成最高性能的推理。”
通过对算法的优化、量化和压缩,红帽的推理服务器可以让客户“用低端一点的卡就能跑出高端卡的效果来”,从而用最低的成本达到最高的性能输出,显著降低企业部署AI的门槛。
为了解决超大规模的推理需求,红帽还联合了IBM Research、Google、NVIDIA等业界领军企业,共同发布了全新的开源社区项目llm-d。该项目借助K8s架构和vLLM的分布式推理逻辑,旨在实现可扩展的、强大的、甚至是私密的AI推理环境,帮助企业规避复杂技术环节,专注于自身业务价值。
RHEL 10与OpenShift虚拟化的“组合拳”
红帽的AI雄心,建立在其稳固且不断演进的基础软件平台之上。其中,作为企业Linux操作系统标杆的RHEL,迎来了其第十个大版本。RHEL 10的发布,不再仅仅是传统的功能和性能提升,而是带来了两大革命性的变化:镜像模式(Image Mode)和RHEL Lightspeed。
“我们能不能用一种管理容器的方式去管理操作系统呢?”王慧慧用一个设问解释“镜像模式”的颠覆性。在传统模式下,管理员对成百上千台服务器的补丁、更新和软件安装,效率低下,并容易使得每台服务器的环境都变得独一无二,管理复杂性剧增。
而RHEL 10的镜像模式,允许管理员像发布和管理容器镜像一样,来部署和更新操作系统。这意味着以前需要分钟级、小时级甚至是天级完成的操作系统更新维护,在镜像模式下将能以秒级的速度完成。
RHEL Lightspeed的本质是一个AI Agent,等于在操作系统中嵌入了一个AI智能助手。这个智能助手拥有红帽数十年来积累的Linux知识库和专家经验,并且可以通过自然语言交互。管理员不再需要敲打复杂的代码,只需用日常语言下达指令,Lightspeed就能帮助完成工作。
在混合云的大趋势下,除了操作系统,虚拟化平台的现代化同样关键。自Broadcom收购VMware以来,许多企业开始寻求更灵活、更具成本效益的替代方案。红帽的OpenShift虚拟化在此时迎来了爆发式增长。
数据显示,自2024年初以来,红帽OpenShift虚拟化的客户数量增长了3倍,其管理的生产集群和虚拟机数量也分别增长了2倍和3倍,众多国内外知名企业已将应用从传统的VMware平台迁移至红帽OpenShift虚拟化平台。
在多个场合,曹衡康曾经用“集装箱”恰如其分地比喻红帽的价值:“我们的容器,OpenShift帮助客户打造的应用,就如同这个集装箱。无论应用部署在私有云、数据中心、公有云,甚至是在不同的公有云之间,都能实现平移转换。”
下沉与出海
曹衡康强调,红帽作为一家开源公司,生态建设始终是重中之重。在联合合作伙伴推进企业级AI落地的同时,红帽也在简化ISV(独立软件开发商)的认证流程,通过智能化的平台让ISV合作伙伴能更便捷地完成产品与红帽平台的兼容性认证,共同服务客户。
红帽全球副总裁兼大中华区总裁曹衡康
“红帽落地中国已经20年了,但过去对二三线城市的覆盖有限,”曹衡康坦言,一次与安徽合肥合作伙伴的交流让他意识到,这些城市蕴藏着巨大的机会。“红帽今年的战略,会将二线、三线城市作为核心城市进行推广。”
过去几个月,红帽已在合肥、厦门、武汉等地成功举办活动,反响热烈,验证了这一策略的正确性。
与此同时,“企业出海”成为中国发展的大趋势,这也为红帽带来了新的机遇。曹衡康指出,出海企业面临着与海外客户、供应商对接的合规性要求,以及全球化的技术支持挑战。红帽的优势在于,其产品是海外市场事实上的标准之一,能够帮助出海企业无缝对接当地生态。
同时,作为一家全球化公司,红帽能够为遍布世界各地的中国企业提供快速、本地化的支持服务。红帽大中华区资深市场总监赵文斌(Max Zhao)补充道,红帽的混合云技术能帮助出海企业在国内外不同的云环境(如国内的阿里云和国外的AWS)下,实现全球一致化的IT体验和高效运营,这对于控制成本至关重要。
从AI推理,到云原生操作系统;从中国市场的精耕细作,到出海服务。这一系列动作清晰地表明,红帽正通过其最擅长的开源方式,构建一个繁荣的混合云与AI推理生态,将先进的数字化技术和成本效益带给广大企业用户。
“红帽要做的事情就是加速AI普及,让门槛更低,普惠大众。”曹衡康表示。