OpenAI wurde Ende letzter Woche gestartet GPT-4o miniein wichtiges neues Sprachmodell, da es GPT-3.5 Turbo ersetzt, die zuvor standardmäßig für chatgpt verwendete Version.
GPT-4o mini ist bei der Beantwortung aller Arten von Anfragen nicht so talentiert wie das „nur“ GPT-4o, das im Frühjahr veröffentlicht wurde, übertrifft GPT-3.5 Turbo jedoch deutlich, wie aus von OpenAI veröffentlichten Benchmarks hervorgeht. Vor allem für Entwickler und Benutzer, die diese Technologien über APIs nutzen, ist es viel günstiger als GPT-4o und sogar GPT-3.5 Turbo: Es kostet 0,15 US-Dollar für 1 Million Eingabe-Tokens, also 60 % weniger als sein Vorgänger.
GPT-4o mini verfügt über ein Kontextfenster (die Datenmenge, die auf einmal übermittelt werden kann) von 128.000 Token und kann bis zu 16.000 Token auf einmal generieren, was mehr ist als bei anderen Modellen zu vergleichbaren Preisen. Die Wissensbasis endet im Oktober 2023 und multimodale Funktionen (Unterstützung für Bilder, Videos und Audio) werden in Zukunft hinzugefügt.
Dieses neue Modell ersetzt daher heute GPT-3.5 Turbo für kostenlose ChatGPT-Benutzer. Abonnenten von ChatGPT Plus (20 $/Monat) können auch die GPT-4o-Version unbegrenzt nutzen. Logischerweise sollte GPT-4o mini die Engine des ChatGPT-Dienstes sein, der als Teil von apple Intelligence in iOS 18 und macOS Sequoia integriert ist.
Am selben Tag stellte das französische Start-up Mistral ein neues kleines Open-Source-Modell vor: NeMo, die als vorteilhafter Ersatz für die historische Mistral 7B dienen kann. Dieses in Zusammenarbeit mit Nvidia entwickelte Modell mit 12 Milliarden Parametern verfügt über ein Kontextfenster von 128.000 Token und ist für mehrsprachige Aufgaben geeignet.