NVIDIA計劃如何將Run:ai的技術應用於非NVIDIA硬體？

NVIDIA 如何運用 Run:ai 技術於非 NVIDIA 硬體

NVIDIA 計畫透過開放 Run:ai 的技術，使其不僅限於 NVIDIA 的 GPU 平台，也能夠應用於 AMD 和 Intel 等其他硬體製造商的產品。此舉旨在擴大 NVIDIA 在 AI 基礎設施領域的影響力，並為客戶提供更全面的解決方案。

Run:ai 的 GPU 池化技術簡介

Run:ai 是一家以色列新創公司，專注於 GPU 虛擬化和調度技術。其核心技術基於 Kubernetes (K8s) 的容器管理機制，透過 GPU 虛擬化與分割技術，將一個完整的 GPU 劃分為多個小單位，供不同任務同時使用，從而避免資源浪費。Run:ai 的 GPU 池化技術允許將多個 GPU 組合為一個虛擬資源共享池，專供大型 AI 任務使用。任務結束後，系統會自動釋放資源。

NVIDIA 收購 Run:ai 的戰略意義

NVIDIA 於 2024 年 12 月以 7 億美元收購 Run:ai，顯示其對 GPU 管理和調度技術的重視。隨著生成式 AI 和大型語言模型 (LLM) 的快速發展，企業對 GPU 的管理需求日益迫切。透過開放 Run:ai 技術，NVIDIA 不僅能優化自家 GPU 的使用效率，還能將其技術擴展到更廣泛的硬體平台，進一步鞏固其在 AI 領域的領導地位。