chatgpt ist auf der ganzen Welt immer beliebter geworden, doch vor zwei Wochen schien die Öffentlichkeit eher mit Sam Altman vertraut zu sein, über den anderen Gründer, Ilya Sutskever, jedoch nicht viel.
Bis vor wenigen Tagen wurde der Name des OpenAI-Chefwissenschaftlers Ilya Suzkovi aufgrund des schillernden Machtkampfs von OpenA nach und nach der Welt bekannt.
Ilya Suzkovi hat in Bezug auf die wissenschaftliche und technische Umsetzung einen großen Beitrag zur Geburt von ChatGPT geleistet und kann als Erfinder von ChatGPT bezeichnet werden. Vielleicht weil Sam Altman der für Finanzierung und Kommerzialisierung zuständige CEO ist, wird Altman jedoch als „Vater von ChatGPT“ bezeichnet.
Wer ist also der wahre Vater von ChatGPT?
Tatsächlich gäbe es ohne Ilya Suzhikvi oder Sam Altman heute kein ChatGPT und OpenAI, aber ohne die vielen Durchbrüche und Erfolge von Ilya Sudzkvi auf dem Gebiet der KI gäbe es definitiv kein ChatGPT.
Lassen Sie uns heute nicht über Atman sprechen, sondern uns auf die Geschichte von Ilya Suzkivi konzentrieren. Schauen Sie sich an, wie er seine Intelligenz und sein Talent nutzte, um Schritt für Schritt von einem gewöhnlichen Menschen zu einer Legende in der KI-Branche zu werden!
1986-2002: Frühes Leben und Bildung
Ilya wurde 1986 in der Sowjetunion geboren und zog mit fünf Jahren nach Jerusalem. Schon früh interessierte er sich für Computer und begann sich im Alter von sieben Jahren selbst das Programmieren beizubringen. Danach, nachdem er eine Zeit lang an der Open University in Israel studiert hatte, zog er im Alter von 16 Jahren erneut nach Kanada und wechselte zum Studium an die University of Toronto. Es heißt, dass dies das erste war, was er in seinem neuen Jahr tat Zuhause war es, in der Toronto Public Library nach einem Buch über maschinelles Lernen zu suchen. Buch von.
Seitdem ist Ilyas Leidenschaft für künstliche Intelligenz immer größer geworden und er hat beschlossen, den Aufbau künstlicher allgemeiner Intelligenz (AGI) zu seinem Hauptziel zu machen.
2003: Eintritt bei Hinton, dem Vater des Deep Learning
Die Person, die in seiner akademischen Laufbahn den größten Einfluss auf Ilya hatte, war sein Lehrer: Geoffrey Hinton – ein Mann, der als Vater des Deep Learning bekannt ist.
Im Jahr 2003, noch während seines Studiums, klopfte Ilya jeden Tag an Hintons Tür in der Hoffnung, ins Labor aufgenommen zu werden. Nachdem er mehrere Artikel gelesen hatte, kollidierte sein Denken im Bereich Deep Learning mit dem Gedanken von Professor Hinton, was zu Professor Hintons Verständnis von Ilyas Einzigartigkeit führte:Er hat die Fähigkeit, Dinge zu entdecken, für deren Entdeckung andere Jahre brauchen könnten.
Obwohl es ein kalter Winter auf dem Gebiet der künstlichen Intelligenz war und das Interesse der Forscher an künstlicher Intelligenz allmählich nachließ, beschloss Professor Hinton, Ilya in sein Labor aufzunehmen.
Ilya erhielt 2005 einen Bachelor-Abschluss in Mathematik von der University of Toronto, 2007 einen Master-Abschluss in Informatik und 2013 einen Ph.D. in Informatik.
2012: Revolution in der Bilderkennung – AlexNet
Vielleicht haben Sie von der Verbindung von AlexNet zu Hinton oder Alex gehört, aber Sie haben vielleicht nicht bemerkt, dass es auch eine Verbindung zu Ilya gibt.
Zu dieser Zeit befand es sich am Tiefpunkt der künstlichen Intelligenz. Hintons neuronales Netzwerkkonzept wurde von den KI-Forschern derselben Zeit nicht allgemein akzeptiert, was sie enorm unter Druck setzte. Sie gaben jedoch nicht nach, sondern stärkten ihren Glauben.
Im Jahr 2012 bot ihnen der ImageNet-Wettbewerb die Gelegenheit, sich zu beweisen – um zu sehen, wer den besten Bilderkennungsalgorithmus entwickeln und mehr Bilder erfolgreich identifizieren konnte.
Hinton und zwei seiner Schüler, Ilya Suzkovi und Alex Krizhevsky, erfanden in diesem Wettbewerb AlexNet und gaben traditionelle, von Hand entworfene Lösungen auf. , abernutzte tiefe neuronale Netze und trainierte sie auf der GPU.
AlexNet durchbrach eine Genauigkeit von 75 %, übertraf damit alle Konkurrenten bei weitem, zeigte allen das enorme Potenzial von Deep Learning und markierte den Beginn der Deep-Learning-Revolution.
Der von den dreien gemeinsam verfasste AlexNet-Artikel wurde bisher mehr als 60.000 Mal zitiert und ist damit einer der meistzitierten Artikel im Bereich Informatik. Damals war Ilya erst 26 Jahre alt.
2013: Von DNNResearch zum Beitritt zu google
Nach diesem Wettbewerb gründeten die drei gemeinsam ein Unternehmen namens DNNResearch. Das Unternehmen brachte jedoch keine Produkte auf den Markt und hatte keinen klaren Entwicklungsplan. Anschließend beteiligten sich vier Unternehmen, darunter Baidu, Google, Microsoft und DeepMind, an der Ausschreibung für die Übernahme. Nur vier Monate später erwarb Google im März 2013 DNNResearch für 44 Millionen US-Dollar und stellte Ilya als Forschungswissenschaftler bei Google Brain ein.
Während seiner Arbeit bei Google Brain war Ilya an vielen Arbeiten beteiligt, die später die Welt in Erstaunen versetzten, beispielsweise an der Zusammenarbeit mit Demis Hassabis und David Silver und an der Kernarbeit von AlphaGo.
Darüber hinaus beteiligte er sich aktiv an der Entwicklung von TensorFlow, was vielen Deep-Learning-Forschern zugute kam.
Kollegen, die zusammengearbeitet haben, sagten:„Ilya ist ein furchtloser Mensch.“
Zu diesem Zeitpunkt wurde Ilyas Vision ehrgeiziger – er begann zu glauben, dass künstliche allgemeine Intelligenz (AGI) unmittelbar bevorstand.
2014: Die Revolution in der maschinellen Übersetzung – Sequence-to-Sequence
Während seiner Arbeit bei Google erfand Ilya eine Variante eines neuronalen Netzwerks, mit dem Englisch ins Französische übersetzt werden kann. Seine vorgeschlagene Sequenz-zu-Sequenz-Lernmethode erfasst die zeitliche Struktur der Eingabe (z. B. eines englischen Satzes) und ordnet sie einer Ausgabe mit einer zeitlichen Struktur (z. B. einem französischen Satz) zu.
Die damaligen Forscher glaubten nicht, dass neuronale Netze Übersetzungsarbeiten durchführen könnten, aber seine Erfindung besiegte die leistungsstärksten Übersetzer und löste eine umfassende Aktualisierung von Google Translate aus, die den Bereich der maschinellen Übersetzung veränderte und die natürliche Sprache hervorbrachte. Eine neue Welle der Forschung auf diesem Gebiet.
Ja, dahinter steckt der Sequence-to-Sequence-Learning-Algorithmus.
Dies leistete auch einen wichtigen Beitrag zur späteren Geburt von Transformer.
2015: Mitbegründer von OpenAI und schlug ein neues Kapitel auf
Google war schon immer führend auf dem Gebiet der KI und als hoch angesehener Forscher erhielt Ilya eines Tages eine Einladung von Sam Altman. Er vereinbarte einen Termin, um mit Leuten wie Sam Altman, Greg Brockman und Elon Musk über die Zukunft der künstlichen Intelligenz zu diskutieren und sich vorzustellen, was passieren könnte und ob einige positive Maßnahmen ergriffen werden können, um die Entwicklung der künstlichen Intelligenz zu beeinflussen.
In dieser Partei,Das Gründungskonzept von OpenAI wurde zum ersten Mal klar vorgeschlagen——„Künstliche Intelligenz zum Nutzen der gesamten Menschheit einsetzen und die Entwicklung künstlicher Intelligenz auf verantwortungsvolle Weise vorantreiben.“ Dies hat die Erwartungen und die Leidenschaft aller Teilnehmer geweckt. Allerdings arbeitete Ilya zu diesem Zeitpunkt noch bei Google und zögerte, sich OpenAI anzuschließen. Am Ende beschloss Ilya nach langem Überlegen und Überreden von Musk und anderen, seine millionenschwere Jobchance bei Google aufzugeben und Mitbegründer und Forschungsdirektor der gemeinnützigen Organisation OpenAI zu werden.
Die Anfänge von OpenAI waren steinig und als gemeinnützige Organisation wurde die Suche nach Investoren zu einer gewaltigen Aufgabe. Musk und andere beschlossen jedoch, 1 Milliarde US-Dollar in das Projekt zu investieren, was es OpenAI ermöglichte, talentierte Leute auf diesem Gebiet einzustellen und einige wichtige Durchbrüche zu erzielen. Diese Entwicklungen haben jedoch einen hohen Preis: Jeden Monat werden Millionen von Dollar für Cloud Computing und die Notwendigkeit ausgegeben, Rechenleistung vom größten Konkurrenten Google zu mieten.
Musk war Vorstandsmitglied von OpenAI, entschied sich jedoch 2018 aufgrund eines Interessenkonflikts mit Tesla, der dazu führte, dass OpenAI ernsthafte finanzielle Probleme hatte, zu verlassen. In einer solchen misslichen Lage versuchte Sam, seine Verbindungen zu nutzen, um neue Investoren zu finden, aber da OpenAI eine gemeinnützige Organisation war und zu viel Geld benötigte, waren mehrere Versuche erfolglos. Sie müssen schnell eine Lösung finden, sonst sind alle Bemühungen umsonst.
In diesem kritischen Moment stimmte der CEO von Microsoft einem Treffen zu, und die Ergebnisse des Treffens änderten das Dilemma von OpenAI. Sam überzeugte Microsoft erfolgreich davon, 1 Milliarde US-Dollar zu investieren und eine Lizenz zur Nutzung der Azure-Cloud-Computing-Plattform zu erhalten. Auf diese Weise muss OpenAI Google nicht mehr bezahlen und Microsoft wird zu ihrem wichtigen Partner.
2018–2020: Entwicklung von GPT-1～3
Jede iterative Operation des GPT-Modells stellt einen großen Fortschritt auf dem Gebiet der Verarbeitung natürlicher Sprache dar:
GPT-1 (2018): Dies ist das erste Modell der Serie. Eine seiner wichtigsten Innovationen ist die Verwendung einer unbeaufsichtigten Pre-Training-Methode. Nach dem Training an einem großen Internet-Textdatensatz lernt es, Wörter in einem Satz basierend auf dem vorherigen Wortkontext vorherzusagen, sodass das Modell die Wörter tiefgreifend verstehen kann Sprachstruktur. und menschenähnlichen Text erzeugen.GPT-2 (2019): Aufbauend auf dem Erfolg von GPT-1, trainiert mit einem größeren Datensatz, um ein leistungsfähigeres Modell zu generieren. Ein großer Fortschritt von GPT-2 ist seine Fähigkeit, kohärenten und flüssigen Absatztext zu einer Vielzahl von Themen zu generieren, was es zu einem wichtigen Akteur bei unbeaufsichtigten Sprachverständnis- und Generierungsaufgaben macht.GPT-3 (2020): Ein bedeutender Durchbruch sowohl hinsichtlich der Größe als auch der Leistung. GPT-3 verfügt über 175 Milliarden Parameter, die damals die Welt schockierten. Es hat bei vielen Sprachaufgaben Spitzenleistungen erbracht und ist in Fähigkeiten wie Fragenbeantwortung, maschineller Übersetzung und Erstellung von Zusammenfassungen mit menschlichen Ebenen vergleichbar. Darüber hinaus demonstriert es die Fähigkeit, einfache prozedurale Schreibaufgaben auszuführen, zusammenhängende Nachrichtenartikel und sogar Gedichte zu schreiben.
Mit der Unterstützung von Microsoft und der Führung von Ilya und anderen erstellten OpenAI-Forscher 2018 das ursprüngliche GPT-Modell. Ein Jahr später veröffentlichten sie GPT-2. Dieses neue Modell demonstrierte das große Potenzial groß angelegter Sprachmodelle, sorgte aber auch für Unzufriedenheit in der KI-Community, da OpenAI keine gemeinnützige Organisation mehr ist und Open Source funktioniert werden immer weniger.
Doch trotz der Kontroverse hat OpenAI bedeutende Forschungsergebnisse erzielt. Im Jahr 2020 veröffentlichten sie GPT-3 und brachten OpenAI an einen wichtigen Wendepunkt. Trotz seiner hervorragenden Leistung erregte GPT-3 keine große Aufmerksamkeit. Um mehr Menschen die Nutzung von GPT-3 zu ermöglichen, überredete Sam die beiden anderen Gründer, auf die Idee einer benutzerfreundlichen Oberfläche zu kommen.
2021: Forschung zu DALL-E 1
Ilya steht immer an der Spitze der Innovation. Im Juni 2020 schlug OpenAI ein neues Konzept vor – Image GPT, das darauf abzielt, mithilfe neuronaler Netze neue hochwertige Bilder basierend auf Benutzertextanweisungen zu generieren, und DALL-E ist ein Meisterwerk, das realisiert diese Idee.
Unter der Leitung von Ilya erstellte das OpenAI-Team das KI-gesteuerte Bildgenerierungsmodell DALL-E, das eine Architektur und einen Trainingsprozess ähnlich dem GPT-Modell verwendet und Bilder verschiedener Stile basierend auf der Texteingabe des Benutzers generieren kann.
Der Entwicklungs- und Designprozess von DALL-E hat nachfolgende Modelle (wie DALL-E 2 und midjourney) geleitet und sein Erfolg hat den Grundstein für die Förderung von Forschung und Innovation im multimodalen Bereich gelegt.
2022: Die Geburt und Entwicklung von ChatGPT
Anschließend verbesserte das OpenAI-Forschungsteam das GPT-3-Modell weiter und nannte das neue Modell GPT-3.5 unter Verwendung der einfachsten Benutzeroberfläche. Infolgedessen führte die kontinuierliche Weiterentwicklung der Sprachmodelle am 30. November 2022 zur Geburt von ChatGPT. Jetzt wurde eine aktualisierte Version von GPT-4 abgeleitet, die die Errungenschaften der generativen künstlichen Intelligenz erneut auf ein neues Niveau hebt.
Wie Sam bereits sagte, hat all dies eine weltweite Revolution in der KI ausgelöst. In nur fünf Tagen lockte ChatGPT mehr als eine Million Benutzer zur Registrierung und stellte damit einen Rekord für das schnellste Benutzerwachstum in der Geschichte des Produkts auf. Alle, auch die Entwickler von ChatGPT, waren vom Erfolg dieses Produkts überwältigt.
Bei der Entwicklung von OpenAI achtete Ilya nicht nur auf technologische Innovationen, sondern nahm auch potenzielle Risiken ernst. Er legte besonderen Wert auf die Sicherheit künstlicher Intelligenz und stellte aktiv mehr Ressourcen für die Sicherheit künstlicher Intelligenzsysteme im Unternehmen bereit. Er leitet das Superalignment-Team des Unternehmens, das sich auf die Bewältigung potenzieller Risiken durch künstliche Intelligenz konzentriert. Dieses Ziel zu erreichen,Widmen Sie 20 % der Rechenleistung des Unternehmens der Lösung von Problemen im Zusammenhang mit der Sicherheit künstlicher Intelligenz.
Dies bringt uns zurück zu seinem Konflikt mit Sam, bei dem Ilyas vorsichtige Haltung eindeutig im Widerspruch zu Sams aggressiverem Ansatz steht, der sich tendenziell schneller in Richtung der Entwicklung einer leistungsstarken künstlichen Intelligenz bewegt. Die Vorstandsmitglieder von OpenAI planten, Sam Altman zu entfernen und ihn durch Emmett Shear zu ersetzen , der stabiler wirkte. Doch dann gab auch ein anderer Mitgründer, Greg, seinen Rücktritt bekannt und mehr als 700 Mitarbeiter kritisierten gemeinsam den Vorstand. Nur wenige Tage später kehrte Sam zu OpenAI zurück …
Zusammenfassen
Ilya beobachtet nicht nur die Aufregung, sondern hat neben der Geburt und dem Wachstum von ChatGPT auch einen wichtigen Einfluss auf den gesamten Bereich der künstlichen Intelligenz.
In den letzten etwa zehn Jahren stand Ilya an der Spitze der Revolution der künstlichen Intelligenz, und die Ergebnisse in jeder Phase können Höhen sein, die wir in unserem Leben nicht erreichen können.
Die Arbeiten, an denen Ilya beteiligt war oder die er einst leitete, veränderten den Forschungsprozess im Bereich Computer Vision, maschinelle Übersetzung und sogar Verarbeitung natürlicher Sprache. Seine Forschungsarbeiten wurden mehr als 427.000 Mal zitiert, was ihn zu einem der am häufigsten zitierten Informatiker macht. Im Jahr 2015 ernannte ihn das MIT außerdem zu einem der 35 wichtigsten Innovatoren der Welt und das Time Magazine zählte ihn zu einem seiner einflussreichsten Menschen.
Vielleicht wird Ilya eines Tages, wenn AGI die Welt wirklich verändert, als einer der bedeutendsten Wissenschaftler der Geschichte gefeiert und seine Beiträge auf dem Gebiet der künstlichen Intelligenz werden jedem bekannt sein.
Quelle:
