Axon ist umstritten und kurzlebig Taser-Drohnenprojekt wird heruntergefahren… zur Zeit.

Der CEO des Unternehmens angekündigt Das Unternehmen „pausiert“ die Entwicklung der Drohnen nach massiven Gegenreaktionen der Öffentlichkeit, Bürgerrechtsgruppen, Datenschutzbeauftragten und einer Mehrheit des eigenen unabhängigen KI-Ethikausschusses des Unternehmens. Die Pause kommt weniger als vier Tage nach Axon offiziell angekündigt Interesse an der Entwicklung der Drohnen.

In seinem Blogbeitrag sagte Rick Smith, seine „Leidenschaft für die Suche nach neuen Lösungen zur Beendigung von Massenerschießungen“ habe das Unternehmen dazu veranlasst, zu schnell zu handeln. Das Drohnenkonzept, das Wochen nach einem Paar kam, war entsetzlich Masse Schießereien in Uvalde, Texas, und Buffalo, New York, wurde als mögliche Lösung vorgeschlagen, um einen aktiven Schützen in „weniger als 60 Sekunden außer Gefecht zu setzen“. Experten für Bürgerrechte sprachen sich gegen die Technologie aus und warnten Gizmodo, dass sie tatsächlich Schule machen könnte mehr gefährlich für Kinder und bot potenzielle Alptraumszenarien, in denen die Drohnen zur Bestrafung politischer Demonstranten eingesetzt werden könnten. Neun der 12 Mitglieder des unabhängigen KI-Ethik- und Beratungsausschusses von Axon sind wegen der Entscheidung von Axon, die Drohne gegen ihre Empfehlung weiterzuverfolgen, zurückgetreten.

„Wir schätzen das Feedback, das wir nach unserer Ankündigung erhalten haben“, schrieb Smith. „Wir haben nicht alle Antworten, aber wir werden zuhören und lernen, damit wir gemeinsam unsere Mission zum Schutz des Lebens erfüllen können.“

Smith, der einen umstrittenen veranstaltete Reddit Frag mich alles Sitzung am Freitag, um das Drohnenkonzept zu diskutieren, sagte, die Idee müsse noch das „Produkt“-Stadium erreichen, und fügte hinzu, das Unternehmen arbeite noch daran, festzustellen, ob die „Technologie überhaupt realisierbar ist“.

Albert Fox Cahn, der Exekutivdirektor des Surveillance Technology Oversight Project, der sich letzte Woche kritisch über das Programm geäußert hatte, sagte Gizmodo, er sei froh, dass Axon das Projekt unterbreche, äußerte jedoch seine Besorgnis, dass es überhaupt überhaupt in Gang gekommen sei.

„Ich bin froh, dass sie es sind [Axon] Ich begründe diesen Vorschlag vorerst, aber ich bin beunruhigt, dass er jemals auf den Weg gebracht wurde “, sagte Fox Cahn. „Diese dystopischen Drohnen waren mehr als ein Höhenflug, sie hätten ein tödlicher Fehler sein können. Nur jemand, der völlig den Bezug zur Realität verloren hat, würde denken, dass das amerikanische Volk diese gefälschten Terminatoren in unseren Schulen haben möchte.“

Fox Cahn wies auf den jüngsten Fall eines Engländers hin, der Berichten zufolge gestorben am Wochenende, nachdem er von einem Taser der Polizei erschossen wurde, als weiterer Beweis für die potenziellen Gefahren, die Axons Projekt innewohnen. „Ich frage mich auch, wie irgendjemand weiterhin in gutem Glauben mit diesem Unternehmen im Bereich Ethik zusammenarbeiten kann“, fügte Fox Cahn hinzu. Während Axon Taser in seinem Marketingmaterial oft als „nicht tödliche“ Waffen bezeichnet, Forschung zeigt, dass Taser seit 2010 zum Tod von mindestens 500 Menschen geführt haben.

Andere, wie der Senior Staff Attorney der American Civil Liberties Union, Carl Takei, sagten, es handele sich um einen so großen öffentlichen Pushback, der erforderlich sei, um die Pause zu erleichtern.

„Es ist zutiefst bedauerlich, dass es eines massiven öffentlichen Aufschreis und des Rücktritts der meisten Mitglieder des KI-Ethikausschusses des Unternehmens bedurfte, bevor Axon schließlich entschied, dass es die Arbeit an seinem Plan, mit dem Verkauf von mit Tasern ausgestatteten Drohnen zu beginnen, ‚unterbricht‘“, sagte Takei gegenüber Gizmodo. „Dieser Vorschlag hätte es niemals außerhalb der C-Suite schaffen dürfen, geschweige denn zu einer Reddit AMA, wo der CEO von Axon über die Installation von bewaffneten Drohnen in Klassenzimmern wie ‚Sprinkler und andere Feuerunterdrückungswerkzeuge‘ nachdachte.“

Die Mitglieder des KI-Ethikausschusses von Axon treten massenhaft zurück

Gizmodo sprach mit dem Anwalt von The Policing Project, Max Isaacs, der die Mitglieder des KI-Ethik- und Beirats von Axon vertritt und für die Besetzung der Mitglieder des Beirats des Unternehmens verantwortlich war. Isaacs sagte, der Vorstand sei von der Entscheidung des Unternehmens, trotz zahlreicher ethischer Bedenken, mit der Drohnenankündigung fortzufahren, „überrumpelt“ worden. Obwohl Smith das Drohnenkonzept als ein Werkzeug enthüllte, das als eine Art einsetzbare Überwachungslösung verwendet werden sollte, um Schulschützen zu vereiteln, sagte Isaacs, dass dem Vorstand ein ganz anderer Anwendungsfall präsentiert wurde.

„Der Kontext war ganz anders“, sagte Isaacs. Laut Isaacs hatten Vorstandsmitglieder den Eindruck, dass die seit über einem Jahr diskutierte Drohne von der Polizei auf dem Rücken ihrer Kreuzer getragen würde. „Der Vorstand hat diese Idee einer permanent stationierten Drohne in Grundschulen mit anhaltender Massenüberwachung in Schulen und Klassenzimmern einfach nicht in Betracht gezogen“, sagte Isaacs. „Das ist nicht das, was der Vorstand als primären Anwendungsfall verstanden hat.“

Isaacs beschrieb eine „erhebliche Lücke“ zwischen dem, worüber der Vorstand konsultiert wurde, und dem, was Axon angekündigt hatte. Am Montagmorgen traten neun der zwölf Vorstandsmitglieder aus Protest zurück.

„Hier gab es ein Prozessproblem“, fügte Isaacs hinzu. „Die Vorstandsmitglieder waren der Ansicht, dass Axon rücksichtslos gehandelt hat, indem es sich nicht mit ihnen beraten und mit der Ankündigung fortgefahren hat, bevor sie auf die Bedenken des Vorstands eingegangen sind.“ Unter den vielen Bedenken des Vorstands, sagte Isaac, sei vor allem die Frage, wie Axon sicherstellen könne, dass eine Taser-Drohne nicht auf unverantwortliche Weise von Polizeibehörden eingesetzt werde.

Der Zeitpunkt von Smiths Drohnenenthüllung war ebenfalls ein Anlass zur Sorge. Laut Isaacs waren mehrere Vorstandsmitglieder der Meinung, dass Smith versuchte, die jüngsten Tragödien in Uvalde und Buffalo zu nutzen, und sahen sie als ein Fenster, um ein Produkt anzukündigen, als die Öffentlichkeit empfänglicher für Lösungen für Schulschießereien war. „Tatsächlich glaube ich, dass Ricks eigene Aussagen darauf anspielten, dass Uvalde und Buffalo ihn zwangen, die Ankündigung zu machen, als er es tat“, sagte Isaacs.

In seiner „Ask Me Anything“-Session letzte Woche sagte Smith sagte er „konnte nicht tatenlos zusehen und das Gespräch zulassen [around school shootings] nur intern bei Axon passieren.“

Axon lehnte es ab, sich zum Rücktritt des Vorstands zu äußern, und verwies Gizmodo auf Smiths jüngste Aussagen. Dort sagte Smith, es sei „bedauerlich“, dass Vorstandsmitglieder beschlossen hätten, zurückzutreten, bevor das Unternehmen Gelegenheit hatte, ihre Bedenken auszuräumen.

„Wir respektieren ihre Wahl und werden weiterhin nach verschiedenen Perspektiven suchen, um unser Denken herauszufordern und andere Technologieoptionen zu lenken, die wir in Betracht ziehen sollten.“

Auf die Frage, ob er besorgt sei, ob Axon die Rollen der zurückgetretenen Vorstandsmitglieder mit Experten besetzen würde, die der Polizeitechnologie weniger kritisch gegenüberstehen, sagte Isaacs, dass dies zwar eine Möglichkeit sei, es aber wichtig sei, die Rolle des Ethikausschusses als „Überbrückungsmaßnahme“ im Auge zu behalten allgemeiner.

„Unsere Position war schon immer, dass Ethikkommissionen im Allgemeinen die zweitbesten sind“, sagte Isaacs. „Polizeitechnologie ist stark unterreguliert, und deshalb ist es wichtig, dass Anbieter diese Produkte verantwortungsbewusst entwickeln.“

Aber gleichzeitig sagt Isaacs, dass es eine unvollkommene Lösung ist, sich auf private Firmen zu verlassen, um im öffentlichen Interesse zu handeln.

„Wir sollten uns nicht auf Ethikgremien verlassen, um sicherzustellen, dass Polizeitechnologie verantwortungsbewusst entwickelt wird“, fügte er hinzu. Es sollte nicht Sache des Unternehmens sein, diese wichtigen Fragen zu entscheiden, die tiefgreifende Folgen für die Gesellschaft haben. Was dringend benötigt wird, ist eine stärkere öffentliche Regulierung der Polizeitechnologie.“