In Ungnade gefallener Pharma Bro wurde Krypto-Shill Martin Shkreli wendet sich einem neuen Unternehmen zu: der medizinischen KI. Shkreli sagt, sein neuer medizinischer Chatbot namens „Dr. Gupta“ kann eine Vielzahl medizinischer Fragen beantworten und könnte eines Tages ein „Ersatz für alle Gesundheitsinformationen“ werden.

Gizmodo hat Dr. Gupta getestet, und obwohl es definitiv keine revolutionäre Technologie zu sein schien, war es doch so tat wie ein unvermeidlicher ethischer und datenschutzrechtlicher Alptraum aussehen.

Shkreli, der letztes Jahr aus dem Gefängnis entlassen wurde, nachdem er sieben Jahre wegen Wertpapierbetrugs hinter Gittern verbracht hatte, offenbart sein neues KI-Tool diese Woche auf Twitter. Während eines Twitter Spaces-Events begleitet von Semafor behauptete er, sein neues großes Sprachmodell sei mit Daten aus dem Internet und medizinischen Online-Zeitschriften trainiert worden. Die Technologie, die die KI antreibt, basiert Berichten zufolge auf einer modifizierten Version von OpenAIs äußerst beliebtes ChatGPT. Dutzende anderer Unternehmen an dieser Stelle, einschließlich Schnapp, haben bereits ihre eigenen themen- oder branchenorientierten KI-Alternativen veröffentlicht, die von ChatGPT unterstützt werden. Was den Namen „Dr. Gupta“, das angeblich ausgewählt wurde, weil es die Buchstaben GPT enthält. Ja, es ist dumm, aber bis jetzt sind die meisten anderen Namen für LLMs auch so.

„WebMD ist im Grunde tot im Wasser“, sagte Shkreli laut Semafor. Er reagierte nicht sofort auf eine Bitte um Stellungnahme.

JETZT IM SONDERANGEBOT

Zwei unserer Lieblings-VPNs

Schützen Sie Ihre privaten Daten Wir teilen und greifen jeden Tag auf eine Menge privater Daten zu, was zu großen Problemen führen kann, wenn diese Informationen in die falschen Hände geraten.

Wie funktioniert Dr. Gupta von Shkreli?

Dr. Guptas Pitch ist ziemlich einfach: Fragen Sie ihn nach medizinischen Informationen oder Ratschlägen und er wird eine Antwort ausspucken. Benutzer können Gupta bis zu 5 kostenlose Fragen stellen. Danach müssen sie ein Abonnement von 20 USD pro Monat bezahlen, um den Zugriff aufrechtzuerhalten. Die Website verwendet einen Chatbot, der jedem vertraut sein wird, der mit einem LLM herumgespielt hat, aber er hat auch eine Dropdown-Liste mit medizinischen Informationen, wo Benutzer ihr Alter, ihre Vitalwerte und ihre Labortestergebnisse im Austausch für „mehr“ einreichen können personalisierte und informative Vorschläge.“

Gizmodo hat Dr. Gupta mit der kostenlosen Testversion getestet. Wie viele Menschen zu dieser Jahreszeit litt dieser Autor an einem besonders schlimmen Fall von saisonalen Allergien. Nachdem ich meine Symptome erklärt und Dr. Gupta um Rat gefragt hatte, wurde mir sofort eine Pop-up-Anzeige angezeigt: „Dr. Gupta IST KEIN richtiger Arzt.“ In der Warnung heißt es weiter, dass das Tool als Alternative zu einer Suchmaschine dienen sollte und „NICHT“ für medizinische oder klinische Zwecke bestimmt war. Weiter unten in der Warnung hieß es, Dr. Gupta „könnte potenziell unzuverlässige Antworten liefern“. Alles sehr beruhigend.

Nach ungefähr 30 Sekunden antwortete Gupta mit einer Antwort im ChatGPT-Stil, in der er höflich mein rotziges Leiden anerkannte, bevor er einige einfache rezeptfreie Antihistaminika und abschwellende Mittel für die Nase empfahl. Gupta fuhr fort, dass es „unerlässlich“ sei, meinen Wohnraum regelmäßig zu reinigen, was zugegebenermaßen ziemlich hart getroffen habe. Anschließend fragte ich Gupta, ob es irgendwelche spezifischen Antihistaminika-Empfehlungen habe, und es sagte, ich solle Zyrtec oder Claritin ausprobieren.

Ich wechselte dann das Thema und fragte Gupta, ob es sicher sei, Hähnchen zu essen, das vier Tage lang im Kühlschrank gelassen worden sei. Gupta antwortete, dass es im Allgemeinen sicher sei, Hähnchen zu essen, das bis zu vier Tage im Kühlschrank gewesen sei, aber er riet mir, nach unangenehmen Gerüchen, Schimmel oder Schleim zu suchen. Im Allgemeinen funktionierte Gupta in meinen äußerst begrenzten Tests wie beabsichtigt, schien sich aber überhaupt nicht von ChatGPT zu unterscheiden. Im ersten Fall von Allergien. Es dauerte länger, diese grundlegenden Antworten zu finden, als dieselbe Frage auf WebMD zu durchsuchen.

Pharma Bro springt von einem Technologietrend zum anderen

Es war nur eine Frage der Zeit, bis jemand versuchte, ChatGPT für medizinische Ergebnisse zu modifizieren. Es ist jedoch, gelinde gesagt, ein wenig ironisch, dass die Person, die diese Anklage anführt, einst ein in Ungnade gefallener pharmazeutischer Huckster war synchronisiert „der am meisten gehasste Mann in Amerika.“ Shkreli erhielt diesen gepriesenen Spitznamen, nachdem sein damaliges Pharmaunternehmen die Rechte an einem Medikament zur Behandlung von Parkinson namens Daraprim erworben und dessen Preis schnell um mehr als 5.000 % von 13,50 USD pro Dosis auf 750 USD für eine Pille erhöht hatte. Schkreli verärgerte die Leute noch mehr indem er 2 Millionen Dollar ausgab, um eine einzige Kopie des Wu-Tang-Clan-Datensatzes 2015 zu erwerben.

Shkreli wurde zum Aushängeschild für das, was viele als unkontrollierte, gewinnbringende Pharmaindustrie empfanden, aber seine Verhaftung im Jahr 2017 und die anschließende siebenjährige Haftstrafe beruhten tatsächlich auf Anklagen wegen Wertpapierbetrugs ohne Bezug. Letztes Jahr schließlich ein Bundesrichter bestimmt Tatsächlich hatte Shkreli gegen das Kartellrecht verstoßen, als er versuchte, ein Monopol auf Daraprim aufrechtzuerhalten. Shkreli musste 64,6 Millionen Dollar zahlen und wurde aus der Drogenindustrie ausgeschlossen.

Seitdem versuchte Shkreli, sich kurz neu zu erfinden, wie viele tunals Crypto Bro, indem Sie beginnen Drogenartig, ein Unternehmen, das behauptet, die Kosten der Arzneimittelforschung durch dezentralisiertes Computing demokratisieren zu wollen. Weniger als ein Jahr aus dem Gefängnis ist Shkreli jedoch bereits wieder im Fadenkreuz der Aufsichtsbehörden, da die FTC kürzlich einen Bundesrichter gebeten hat, den Pharma Bro festzuhalten Missachtung des Gerichts weil er ihnen nicht die Informationen gegeben hatte, die sie brauchten, um festzustellen, ob er tatsächlich wieder in die medizinische Industrie eindrang. Alte Gewohnheiten, so scheint es, sind schwer zu durchbrechen.

Herr Gupta könnte einer behördlichen Prüfung ausgesetzt sein

Um es milde auszudrücken, es gibt viele potenzielle Probleme mit dem neuen KI-Abenteuer von Pharma Bro. Zunächst einmal ist es schwer vorstellbar, wie die Einführung eines KI-Tools, das medizinische Ratschläge gibt und bestimmte Medikamente empfiehlt, nicht gegen das Verbot der Arzneimittelindustrie von Shkreli verstoßen würde. Dann ist da noch die Frage der Genauigkeit. Haftungsausschluss oder nicht, Dr. Gupta könnte schnell in echte Probleme geraten, indem es seinen Benutzern falsche oder schädliche Informationen empfiehlt. Große Sprachmodelle, einschließlich ChatGPT, sind bekannt für „halluzinieren“ oder im Grunde genommen Antworten auf Fragen erfinden, die tatsächlich keine wirkliche Grundlage haben könnten. Das ist ärgerlich, wenn Sie es bitten, einen Cocktail zu kreieren, aber es ist möglicherweise lebensbedrohlich, wenn Sie es bitten, Ihnen etwas über eine medizinische Dosis zu sagen. Bedenken hinsichtlich Guptas medizinischer Genauigkeit schienen Shkreli jedoch nicht zu stören.

„Wie hindert man einen Arzt daran, dasselbe zu tun?“ sagte er auf Twitter.

Dann ist da noch das Problem mit all den sensiblen medizinischen Daten, die Dr. Gupta möglicherweise jedes Mal verschlingt, wenn ein Benutzer eine Anfrage stellt. Der Health Insurance Portability and Accountability Act (HIPAA) und andere regulatorische Schutzmaßnahmen legen strengere Vorschriften dafür fest, wie Unternehmen Gesundheitsdaten verwenden und weitergeben können. Diese Einschränkungen könnten wie Landminen aussehen, um die Gupta ständig kämpfen muss, um herumzutanzen. Shkreli fasste seine Gedanken zu diesen Bedenken in einer Antwort an einen Benutzer auf Twitter zusammen.

„Lesen Sie die Bedingungen“, sagte Shkreli. „Wenn du es nicht benutzen willst, benutze es nicht!“