KI-Forscher von google DeepMind haben mithilfe eines großen Sprachmodells (LLM) die weltweit erste wissenschaftliche Entdeckung gemacht, die darauf hinweist, dass ChatGPT und ähnliche Programme Informationen generieren können, die über das menschliche Wissen hinausgehen.

Die Entdeckung legt nahe, dass diese großen Sprachmodelle nicht nur Trainingsinformationen neu verpacken, sondern auch neue Erkenntnisse generieren können.

„Als wir mit dem Projekt begannen, gab es keine Anzeichen dafür, dass es etwas wirklich Neues hervorbringen würde“, sagte Pushmeet Kohli, Leiter der KI-Wissenschaft bei DeepMind.

„Soweit wir wissen, ist dies das erste Mal, dass eine echte, neue wissenschaftliche Entdeckung durch ein großes Sprachmodell gemacht wurde.“

LLMs sind leistungsstarke neuronale Netze, die Sprachmuster aus riesigen Text- und Datenmengen lernen. ChatGPT wurde letztes Jahr eingeführt und ist zum Debuggen von Software und zum Erstellen verschiedener Arten von Inhalten beliebt. Der Wächter gemeldet.

Allerdings sind Chatbots nicht in der Lage, neues Wissen zu generieren und neigen zu Konfabulationen, was zu flüssigen und plausiblen Antworten führt, die jedoch fehlerhaft sind.

DeepMind nutzte ein LLM, um „FunSearch“, kurz für „Suchen im Funktionsraum“, zu erstellen, indem es Computerprogramme zur Lösung von Problemen schrieb. Das LLM ist mit einem „Evaluator“ gekoppelt, der Programme nach Leistung bewertet.

Die besten Programme werden kombiniert und zur Verbesserung an das LLM zurückgegeben, wodurch schlechte Programme nach und nach zu leistungsstarken Programmen weiterentwickelt werden, die in der Lage sind, neues Wissen zu entdecken.

Die Forscher lösten bei FunSearch zwei Rätsel.

Für das erste Programm entwickelte FunSearch Programme zur Generierung von Large-Cap-Mengen, die über die Arbeit der besten existierenden Mathematiker hinausgehen und sich der langjährigen und geheimnisvollen Herausforderung stellen, die größte Menge von Punkten im Raum zu finden, bei der keine drei Punkte eine gerade Linie bilden.

Das zweite Problem war das Bin-Packing-Problem – ein mathematisches Problem, das darauf abzielt, Gegenstände unterschiedlicher Größe effizient in Container zu packen – das sich auf physische Objekte wie Versandcontainer und die Planung von Rechenaufgaben in Rechenzentren bezieht.

Die Lösung besteht normalerweise darin, die Artikel entweder in den ersten Behälter mit Platz oder in den Behälter mit dem geringsten verfügbaren Platz zu packen.

Laut den in veröffentlichten Ergebnissen hat FunSearch einen besseren Ansatz gefunden, der es vermeidet, kleine Lücken zu hinterlassen, die wahrscheinlich nie geschlossen werden würden Natur.

„In den letzten zwei oder drei Jahren gab es einige aufregende Beispiele dafür, wie menschliche Mathematiker mit KI zusammenarbeiteten, um Fortschritte bei ungelösten Problemen zu erzielen“, sagte Sir Tim Gowers, Professor für Mathematik an der Universität Cambridge, der nicht an der Forschung beteiligt war.

„Diese Arbeit gibt uns möglicherweise ein weiteres sehr interessantes Werkzeug für solche Kooperationen an die Hand, das es Mathematikern ermöglicht, effizient nach cleveren und unerwarteten Konstruktionen zu suchen.“ Besser noch, diese Konstruktionen sind menschlich interpretierbar.“