Neu-Delhi: Während generative künstliche Intelligenz (KI) und Chatbots wie die von Microsoft unterstützten OpenAIs chatgpt und google Bard die Welt im Sturm erobern, wird Hybrid AI es generativen KI-Entwicklern und -Anbietern ermöglichen, die in Edge-Geräten verfügbaren Rechenkapazitäten zu nutzen, um Kosten zu senken, Chip Hersteller Qualcomm hat gesagt.

In einem Whitepaper erklärte das Unternehmen, dass die Hybridverarbeitung wichtiger denn je sei.

„Eine hybride KI-Architektur verteilt und koordiniert KI-Arbeitslasten zwischen Cloud- und Edge-Geräten, anstatt sie nur in der Cloud zu verarbeiten“, sagte der Chiphersteller.

Die Cloud- und Edge-Geräte – Smartphones, Autos, PCs und IoT-Geräte (Internet of Things) – arbeiten zusammen, um eine leistungsfähigere, effizientere und hochoptimierte KI zu liefern.

„Die Hauptmotivation sind Kosteneinsparungen. Beispielsweise wird geschätzt, dass die Kosten pro Abfrage bei generativer KI im Vergleich zu herkömmlichen Suchmethoden um das Zehnfache steigen – und dies ist nur eine von vielen generativen KI-Anwendungen“, betonte Qualcomm.

Hybrid-KI ermöglicht sogar die gleichzeitige Ausführung von Modellen auf Geräten und in der Cloud – wobei auf Geräten Light-Versionen des Modells ausgeführt werden, während die Cloud mehrere Token des vollständigen Modells parallel verarbeitet und die Geräteantworten bei Bedarf korrigiert.

KI-Modelle mit mehr als 1 Milliarde Parametern laufen bereits auf Telefonen mit einer Leistung und Genauigkeit, die denen der Cloud ähneln, und Modelle mit 10 Milliarden Parametern oder mehr sollen in naher Zukunft auf Geräten laufen.

„Der hybride KI-Ansatz ist auf praktisch alle generative KI-Anwendungen und Gerätesegmente anwendbar – einschließlich Telefone, Laptops, Extended-Reality-Headsets, Autos und IoT“, so Qualcomm.