google verblüffte die Welt mit Gemini, einem chatgpt-Konkurrenten, der Sprachanweisungen empfangen und auf einen Echtzeit-Feed der Welt reagieren konnte, während er diese Sprachanweisungen beantwortete. Es war dem, was ChatGPT leisten konnte, meilenweit voraus. Außerdem war alles falsch. Enttäuschenderweise.
Wir werden diese Zukunft sicherlich erreichen, und Google wird dabei eine Vorreiterrolle übernehmen, aber Gemini ist noch nicht der ultimative ChatGPT-Konkurrent. Google hat eindeutig Angst vor ChatGPT und unternimmt große Anstrengungen, um eine gefälschte Demo seines eigenen Chatbots zu teilen oder in Benchmark-Tests die Vormachtstellung von Gemini gegenüber ChatGPT anzupreisen. Aber Google ist nicht allein und Sie sollten die KI von Mistral auf Ihrem Radar haben.
Mixtral 8x7B (so heißt die KI) stammt von einem französischen Startup mit einem Wert von mittlerweile 2 Milliarden US-Dollar und ist möglicherweise eine der besten ChatGPT-Alternativen auf dem Markt. Aber man kann damit nichts anfangen, obwohl es in freier Wildbahn verfügbar ist.
Entsprechend TechCrunch, Mistral schloss seine Serie-A-Finanzierung ab und sammelte 385 Millionen Euro von Investoren ein, was etwa 415 Millionen US-Dollar entspricht. Damit liegt die Bewertung von Mistral bei etwa 2 Milliarden US-Dollar. Die Serie-A-Runde folgt auf eine 112-Millionen-Dollar-Seed-Runde von Anfang des Jahres.
Mitral brachte im September sein erstes KI-Modell, Mistral 7B, auf den Markt. Dies wurde anhand eines Datensatzes mit rund 7 Milliarden Parametern trainiert, was im Vergleich zu GPT-4 und Claude 2 als klein gilt. Das französische Startup stellte Mistral 7B (Mistral-tiny) jedem zum Download zur Verfügung, richtete sich jedoch an Entwickler. Sie können Mistral nicht wie ChatGPT verwenden.
Diesen Monat stellte Mistral den Mixtral 8x7B (Mistral-small) vor. Auch dies steht Entwicklern kostenlos zur Verfügung. Wenn Sie sich mit KI-Software auskennen, können Sie das neue Modell nutzen und in Ihre Apps integrieren. Aber Mitral 8x7B hat kein kommerzielles Gesicht wie ChatGPT.
Mistral wird Ihnen nicht das generative ChatGPT-KI-Erlebnis bieten, das Sie von solchen Produkten erwarten. Mistral ist nicht einmal das erste Unternehmen, das einen anderen Ansatz verfolgt. Wir haben gesehen, wie Amazon ein eigenes generatives KI-Produkt vorgestellt hat, das sich nur an Profis richtet.
Stattdessen öffnet Mistral seine Plattform für Entwickler in der Beta. Eine Mistral-Medium-Version befindet sich ebenfalls in der Prototyping-Phase.
Wie Google verwendet Mistral Benchmarks, um zu zeigen, dass Mixtral 8x7B in den meisten Tests besser ist als ChatGPT und LLaMA 2 70B. Interessanterweise vergleicht Mistral seine KI mit GPT-3.5, dem Sprachmodell, das der kostenlosen Version von ChatGPT zugrunde liegt.
Mistral ist „vorab auf Daten vorbereitet, die aus dem offenen Web extrahiert werden – wir schulen Experten und Router gleichzeitig“, heißt es ein Unternehmensblogbeitrag. Was sind Experten und Router? Sie sind Teil der Funktionsweise von Mistral:
Mixtral ist ein spärliches Expertennetzwerk. Es handelt sich um ein reines Decoder-Modell, bei dem der Feedforward-Block aus einem Satz von 8 verschiedenen Parametergruppen auswählt. Auf jeder Ebene wählt ein Router-Netzwerk für jeden Token zwei dieser Gruppen (die „Experten“) aus, um den Token zu verarbeiten und ihre Ausgabe additiv zu kombinieren.
Diese Technik erhöht die Anzahl der Parameter eines Modells und kontrolliert gleichzeitig Kosten und Latenz, da das Modell nur einen Bruchteil des gesamten Parametersatzes pro Token verwendet. Konkret hat Mixtral insgesamt 45B Parameter, verwendet aber nur 12B Parameter pro Token. Daher verarbeitet es Eingaben und generiert Ausgaben mit der gleichen Geschwindigkeit und zu den gleichen Kosten wie ein 12B-Modell.
Das könnte spannend sein, wenn man damit etwas anfangen könnte. Ich meine Normalsterbliche wie Sie und ich, keine Entwickler, die diese neue KI unbedingt sinnvoll einsetzen möchten. An anderer Stelle im Blogbeitrag sagt das Unternehmen, dass Mixtral den Kontext von 32K-Tokens „anmutig handhaben“ kann, Englisch, Französisch, Italienisch, Deutsch und Spanisch verarbeitet und „eine starke Leistung bei der Codegenerierung zeigt“.
Während Sie Gemini AI über Bard und das Pixel 8 nutzen können, funktioniert Googles neuester ChatGPT-Rivale nur auf Englisch.
Wir müssen abwarten, bis die Entwickler sehen, was sie als nächstes mit Mistral AI machen. Aber die Entstehung dieses neuen KI-Unternehmens ist sicherlich eine aufregende Entwicklung.