Meta hat gerade die neueste Version seiner Llama-Familie künstlicher Intelligenzmodelle veröffentlicht, darunter die bislang größte Version mit 820 GB.
Das Unternehmen gibt an, dass es sich um ein neues Upgrade für die gesamte Produktfamilie handelt, und nennt es Llama 3.1, das auch logische Verbesserungen für die kleinen und mittleren Versionen beinhaltet.
Diese werden auch weiterhin Open Source sein, was bedeutet, dass jedes Unternehmen oder jede Organisation das Modell herunterladen, optimieren und auf seiner eigenen Hardware ausführen kann.
Meta sagt Rufen Sie 3.1 405b ander größte der Familie, kann mit Modellen von OpenAI und google mithalten. Dies umfasst Argumentations- und Codierungsfunktionen.
Es kann auf der Groq Cloud-Inferenzplattform, Metas eigenem MetaAI-Chatbot und Entwickler-Clouds wie AWS, IBM und Azure verwendet werden.
Was ist an Llama 3.1 anders?
Llama 3.1 405b, was 405 Milliarden Parameter bedeutet, stellt sowohl für Meta als auch für die Open-Source-KI-Community die große Veränderung dar. Das Unternehmen behauptet, dass es Claude 3.5 Sonnet und GPT-4o bei einer Reihe wichtiger Benchmarks schlägt.
Während Meta dies in seinem eigenen MetaAI-Chatbot verwenden wird, wird das Modell Unternehmen fortschrittliche Intelligenz auf Spitzenniveau zur Verfügung stellen, die sie auf ihrer eigenen Hardware installieren, an ihre eigenen Bedürfnisse anpassen und nutzen können, ohne pro Token Gebühren an OpenAI zu zahlen.
Ab heute ist Open Source führend. Wir stellen Llama 3.1 vor: Unsere bisher leistungsfähigsten Modelle. Heute veröffentlichen wir eine Sammlung neuer Llama 3.1-Modelle, darunter unser lang erwartetes 405B. Diese Modelle bieten verbesserte Argumentationsfähigkeiten, einen größeren 128K-Token-Kontext… pic.twitter.com/1iKpBJuReD23. Juli 2024
Während des Trainings und der anschließenden Feinabstimmung konzentrierte sich Meta nach eigenen Angaben auf die „Hilfsbereitschaft“ seines Chatbots. In einer Stellungnahme heißt es: „Mit Llama 3.1 405B haben wir versucht, die Hilfsbereitschaft, Qualität und Fähigkeit des Modells, detaillierte Anweisungen zu befolgen, als Reaktion auf Benutzeranweisungen zu verbessern und gleichzeitig ein hohes Maß an Sicherheit zu gewährleisten.“
Es verfügt über ein deutlich größeres Kontextfenster mit 128.000 Token und entspricht damit in etwa dem Industriestandard.
Was sind die Llama 3.1-Versionen?
Llama 3.1 ist in drei Größen erhältlich. Die erste ist 8B, die leicht und ultraschnell ist und überall ausgeführt werden kann, auch auf einem Smartphone.
Dann haben Sie 70B, das leistungsstarke, aber kostengünstige Modell, das hauptsächlich in einem Rechenzentrum betrieben wird, aber auch auf einem guten Gaming-PC laufen könnte.
Schließlich gibt es noch das neue Flaggschiff-Basismodell 405B, das in puncto Qualität und Leistungsfähigkeit an die großen privaten Modelle von Unternehmen wie OpenAI, Google und Anthropic heranreicht.
Wie greifen Sie auf Llama 3.1 zu?
Llama 3.1, einschließlich der neuen Version 405b, ist im MetaAI-Chatbot verfügbar, hat aber weltweit nur eine begrenzte Verbreitung. Allgemeiner können Sie über die Groq Cloud oder sogar die sehr schnelle Groq-Chatbot-Schnittstelle darauf zugreifen.
Andere entwicklerorientierte Plattformen von Microsoft, Google, Amazon, DataBricks und mehr laden die neuen Modelle ebenfalls und wenn Sie über ein eigenes Rechenzentrum verfügen, können Sie alle drei Versionen von GitHub herunterladen und selbst ausführen.
Die beiden kleineren Versionen – 8b und 70B – sind auf Ollama verfügbar, einem einfachen Installationsprogramm für lokale KI-Modelle unter Windows, Mac und linux.
Meta-CEO Mark Zuckerberg sagt voraus, dass MetaAI bis zum Ende dieses Jahres der am weitesten verbreitete Assistent sein wird und chatgpt als Nummer eins unter den Möglichkeiten zum Zugriff auf KI ablösen wird.
Er sagt, dies sei dem erweiterten Zugriff auf den Assistenten über WhatsApp, Instagram, die Ray-Ban-Smart-Brille und den eigenständigen MetaAI-Chatbot zu verdanken. Er wird auch für die Quest-Mixed-Reality-Headsets verfügbar sein und die aktuellen Sprachbefehle ersetzen.
Mehr von Tom's Guide
Zurück zum MacBook Air
