Nutanix hat ein schlüsselfertiges GPT-in-a-Box-System auf den Markt gebracht, mit dem Kunden große Sprachmodell-KI-Workloads auf seiner hyperkonvergenten Softwareplattform ausführen können.
GPT (Generative Pre-trained Transformer) ist eine Art maschinelles Lernmodell (LLM), das Textanfragen und -fragen interpretieren, mehrere Quelldateien durchsuchen und mit Text-, Bild-, Video- oder sogar Softwarecodeausgabe antworten kann. Ausgelöst durch die ChatGPT Nach diesem Modell überlegen Organisationen auf der ganzen Welt, wie die Einführung von LLMs verbessert werden könnte Erstellung von Marketinginhaltendie Chatbot-Interaktionen mit Kunden verbessern, normalen Forschern Datenwissenschaftlerfunktionen zur Verfügung stellen und dabei Kosten sparen.
Greg Macatee, IDC Senior Research Analyst, Infrastructure Systems, Platforms and Technologies Group, sagte: „Mit GPT-in-a-box bietet Nutanix seinen Kunden eine schlüsselfertige, benutzerfreundliche Lösung für ihre KI-Anwendungsfälle und bietet damit Unternehmen in Schwierigkeiten.“ Die Einführung generativer KI erleichtert den Einstieg in die Bereitstellung.“
Nutanix möchte Kunden das Testen und Verwenden von LLMs erleichtern, indem es einen Software-Stack erstellt, der die Nutanix Cloud Infrastructure, den Nutanix Files and Objects-Speicher sowie die Nutanix AHV-Hypervisor- und Kubernetes (K8S)-Software mit Nvidia GPU-Beschleunigung umfasst. Die Basis der Cloud-Infrastruktur ist ein eigenständiger Software-Stack, der Rechenleistung, Speicher und Netzwerk, Hypervisoren und Container in öffentlichen oder privaten Clouds umfasst. GPT-in-a-box sei von Edge- bis hin zu Core-Rechenzentrumsbereitstellungen skalierbar, heißt es.
Die GPU-Beschleunigung umfasst die Karbon Kubernetes-Umgebung von Nutanix, die den GPU-Passthrough-Modus zusätzlich zu Kubernetes unterstützt. Es erstreckt sich nicht auf die Unterstützung des GPU Direct-Host-CPU-Bypass-Protokolls von Nvidia, um den direkten GPU-Serverzugriff auf Speicherlaufwerke zu ermöglichen.
Thomas Cornely, SVP, Produktmanagement bei Nutanix, sagte: „Nutanix GPT-in-a-Box ist ein eigenwilliger KI-fähiger Stack, der darauf abzielt, die wichtigsten Herausforderungen bei der Einführung generativer KI zu lösen und dabei zu helfen, KI-Innovationen anzukurbeln.“
Wir haben gefragt, was der Begriff „meinungsorientierter KI-fähiger Stack“ bedeutet, haben aber noch keine Antwort erhalten.
Nutanix bietet außerdem Dienstleistungen an, die Kunden dabei helfen, ihre Cluster zu dimensionieren und ihre Software mit Open-Source-Deep-Learning- und MLOps-Frameworks, Inferenzservern und einem ausgewählten Satz von LLMs wie Llama2, Falcon GPT und MosaicML bereitzustellen.
Datenwissenschaftler und ML-Administratoren können diese Modelle mit Anwendungen ihrer Wahl, erweiterter Terminal-Benutzeroberfläche oder Standard-CLI nutzen. Das GPT-in-a-box-System kann andere GPT-Modelle ausführen und diese mithilfe interner Daten optimieren, auf die über Nutanix-Datei- oder Objektspeicher zugegriffen wird.
Erfreulich für Nutanix ist, dass eine aktuelle Umfrage ergab, dass 78 Prozent der Kunden ihre KI/ML-Workloads wahrscheinlich auf der Nutanix Cloud Infrastructure ausführen würden. Wie von Zauberhand bestätigt dies, was das unterstützende Zitat von IDC oben gesagt hat.
Nutanix möchte, dass wir erkennen, dass das Unternehmen Glaubwürdigkeit in der KI- und Open-Source-KI-Community genießt, und zwar durch:
- Mitarbeit im Beirat MLCommons (AI Standards).
- Mitbegründer und technische Führung bei der Definition der ML Storage Benchmarks und Medicine Benchmarks
- Co-Vorsitzender der Arbeitsgruppen Kubeflow (MLOps) Training und AutoML bei der Cloud Native Computing Foundation (CNCF)
Erfahren Sie mehr über diesen ChatGPT-in-a-Box-Software-Stack von Nutanix Webseite.
