Forscher der Virginia Tech haben Einschränkungen in der Kapazität von ChatGPT festgestellt Bereitstellung standortspezifischer Informationen zu Fragen der Umweltgerechtigkeit. Ihre Ergebnisse, veröffentlicht in der Zeitschrift Telematik und Informatikdeuten auf das Potenzial für geografische Verzerrungen hin, die in aktuellen Modellen der generativen künstlichen Intelligenz (KI) bestehen.

ChatGPT ist ein großsprachiges Modell, das von OpenAI Inc., einer Forschungsorganisation für künstliche Intelligenz, entwickelt wurde. ChatGPT ist darauf ausgelegt, Fragen zu verstehen und Textantworten basierend auf Anfragen von Benutzern zu generieren. Die Technologie bietet ein breites Anwendungsspektrum von der Inhaltserstellung und Informationsbeschaffung bis hin zur Datenanalyse und Sprachübersetzung.

Eine Übersicht nach Landkreisen

„Als Geograph und Geodatenwissenschaftler ist generative KI ein Werkzeug mit großem Potenzial“, sagte Assistenzprofessor Junghwan Kim vom College of Natural Resources and Environment. „Gleichzeitig müssen wir die Grenzen der Technologie untersuchen, um sicherzustellen, dass zukünftige Entwickler die Möglichkeiten von Voreingenommenheiten erkennen. Das war die treibende Motivation dieser Forschung.“

Anhand einer Liste der 3.108 Landkreise in den angrenzenden Vereinigten Staaten bat die Forschungsgruppe die ChatGPT-Schnittstelle, eine Frage zu den Umweltgerechtigkeitsproblemen in jedem Landkreis zu beantworten. Die Forscher wählten Umweltgerechtigkeit als Thema, um das Spektrum der Fragen zu erweitern, die typischerweise zum Testen der Leistung generativer KI-Tools verwendet werden. Durch das Stellen von Fragen nach Landkreisen konnten die Forscher die ChatGPT-Antworten anhand soziodemografischer Faktoren wie Bevölkerungsdichte und mittlerem Haushaltseinkommen messen.

Wichtige Erkenntnisse weisen auf Einschränkungen hin

Bei der Befragung von Landkreisen mit so unterschiedlichen Bevölkerungsgruppen wie Los Angeles County, Kalifornien, mit 10.019.635 Einwohnern und Loving County, Texas, mit 83 Einwohnern zeigte das generative KI-Tool, dass es in der Lage ist, standortspezifische Herausforderungen im Bereich der Umweltgerechtigkeit im großen und ganzen Umfang zu identifizieren -Bevölkerungsdichte Gebiete. Das Tool war jedoch nur begrenzt in der Lage, kontextualisierte Informationen zu lokalen Fragen der Umweltgerechtigkeit zu identifizieren und bereitzustellen.

• ChatGPT konnte nur für 515 der 3018 eingegebenen Landkreise oder 17 Prozent standortspezifische Informationen zu Fragen der Umweltgerechtigkeit bereitstellen.
• In ländlichen Bundesstaaten wie Idaho und New Hampshire lebten mehr als 90 Prozent der Bevölkerung in Landkreisen, die keine lokalspezifischen Informationen erhalten konnten.
• In Bundesstaaten mit größerer städtischer Bevölkerung wie Delaware oder Kalifornien lebte weniger als 1 Prozent der Bevölkerung in Landkreisen, die keine spezifischen Informationen erhalten können.

Auswirkungen für KI-Entwickler und -Benutzer

Da sich generative KI als neues Gateway-Tool zur Informationsbeschaffung herausstellt, ist das Testen potenzieller Verzerrungen bei Modellierungsergebnissen ein wichtiger Bestandteil der Verbesserung von Programmen wie ChatGPT.

„Obwohl weitere Studien erforderlich sind, zeigen unsere Ergebnisse, dass im ChatGPT-Modell derzeit geografische Verzerrungen bestehen“, sagte Kim, die am Institut für Geographie lehrt. „Dies ist ein Ausgangspunkt für die Untersuchung, wie Programmierer und KI-Entwickler in der Lage sein könnten, die Informationsunterschiede zwischen großen und kleinen Städten, zwischen städtischen und ländlichen Umgebungen vorherzusehen und abzumildern.“

Kim hat zuvor einen Artikel darüber veröffentlicht ChatGPT versteht Transportprobleme und -lösungen in den USA und Kanada. Sein Intelligente Städte für immer Die Forschungsgruppe erforscht den Einsatz von Methoden und Technologien der Geodatenwissenschaft zur Lösung städtischer sozialer und ökologischer Herausforderungen.

Verbesserung der zukünftigen Fähigkeiten der Tools

Assistenzprofessor Ismini Lourentzou vom College of Engineering, Mitautor des Papiers, nannte drei Bereiche weiterer Forschung für großsprachige Modelle wie ChatGPT:

• Verfeinern Sie lokalisiertes und kontextbezogenes Wissen, um geografische Verzerrungen zu reduzieren
• Schützen Sie großsprachige Modelle wie ChatGPT vor herausfordernden Szenarien wie mehrdeutigen Benutzeranweisungen oder Feedback
• Verbessern Sie das Bewusstsein und die Richtlinien der Benutzer, damit die Benutzer besser über die Stärken und Schwächen informiert sind, insbesondere bei sensiblen Themen

„Es gibt viele Probleme mit der Zuverlässigkeit und Belastbarkeit großsprachiger Modelle“, sagte Lourentzou, der an der Fakultät für Informatik lehrt und eine Tochtergesellschaft des Sanghani Center for Artificial Intelligence and Data Analytics ist. „Ich hoffe, dass unsere Forschung als Leitfaden für weitere Forschungen zur Verbesserung der Fähigkeiten von ChatGPT und anderen Modellen dienen kann.“