News

Google entlässt die Top-KI-Ethikforscherin Margaret Mitchell

Google entlässt die Top-KI-Ethikforscherin Margaret Mitchell

Google hat Margaret Mitchell entlassen, die Gründerin und ehemalige Co-Leiterin des ethischen KI-Teams des Unternehmens. Mitchell kündigte die Neuigkeiten über einen Tweet an.

Google sagte:

Nach einer Überprüfung des Verhaltens dieses Managers haben wir bestätigt, dass es mehrere Verstöße gegen unseren Verhaltenskodex sowie gegen unsere Sicherheitsrichtlinien gab, einschließlich der Exfiltration vertraulicher geschäftsrelevanter Dokumente und privater Daten anderer Mitarbeiter.

Im Januar widerrief Google laut AIios der KI-Ethikerin Margaret Mitchell den Unternehmenszugang, weil sie Berichten zufolge automatisierte Skripte verwendet hatte, um Beispiele für Misshandlungen von Dr. Timnit Gebru zu finden. Gebru sagt, dass sie von Google entlassen wurde, während Google behauptet hat, dass sie zurückgetreten ist.

Anfang dieses Monats veröffentlichte Mitchell die E-Mail, die sie an dem Tag an das Presseteam von Google gesendet hatte, als ihr E-Mail-Zugriff für Unternehmen gesperrt wurde. In der E-Mail ging es um Gebru’s Entlassung und darum, wie sie “von denselben Grundlagen des Rassismus und Sexismus angetrieben zu werden schien, die unsere KI-Systeme, wenn sie in den falschen Händen sind, aufsaugen”.

In Mitchells Brief, den Sie hier vollständig lesen können, werden die verschiedenen Ideen und Strukturen beschrieben, die dazu geführt haben, dass Dr. Gebru von Google abgereist ist. Mitchell argumentiert, was mit Gebru passiert ist, “scheint auf den gleichen Mangel an Voraussicht zurückzuführen zu sein, der den Kern der modernen Technologie ausmacht, und dient daher selbst als Beispiel für das Problem.”

Mitchell fügt hinzu:

Das Feuer scheint durch die gleichen Grundlagen von Rassismus und Sexismus angeheizt worden zu sein, die unsere KI-Systeme, wenn sie in den falschen Händen sind, aufsaugen. Wie Dr. Gebru entlassen wurde, ist nicht in Ordnung, was darüber gesagt wurde, ist nicht in Ordnung, und die Umgebung, die dazu führte, war – und ist – nicht in Ordnung. Jeder Moment, in dem Jeff Dean und Megan Kacholia keine Verantwortung für ihre Handlungen übernehmen, ist ein weiterer Moment, in dem das gesamte Unternehmen still daneben steht, als ob es absichtlich die schreckliche Botschaft senden möchte, dass Dr. Gebru es verdient, auf diese Weise behandelt zu werden. Behandelt, als wäre sie ihren Kollegen unterlegen. Karikaturiert als irrational (und schlimmer). Ihr Forschungsschreiben wurde öffentlich als unterhalb der Bar definiert. Ihr Stipendium wurde öffentlich für unzureichend erklärt. Für die Aufzeichnung: Dr. Gebru wurde völlig unangemessen behandelt, mit intensiver Respektlosigkeit, und sie verdient eine Entschuldigung.

In dem Brief ging es weiter um den ethischen Ansatz der künstlichen Intelligenz bei der Entwicklung von Technologie, wie Mitchell dazu kam, das ethische KI-Team mit Gebru zu führen und dann gemeinsam zu führen, und was letztendlich geschah. Im nächsten Jahr sagte Mitchell, sie wolle, dass “diejenigen von uns in privilegierten und Machtpositionen” sich mit “dem Unbehagen abfinden, Teil eines ungerechten Systems zu sein, das einen der weltweit führenden Wissenschaftler abgewertet hat, und so etwas davon abhalten.” jemals wieder passieren. ”

Die Entlassung von Mitchell erfolgt kurz nachdem Google die Ernennung von Dr. Marian Croak zum Leiter der verantwortlichen Abteilung für künstliche Intelligenz bekannt gegeben hat. Als wir uns gestern an Google wandten, hatte das Unternehmen keinen Kommentar zu Mitchells Schicksal.

Nachrichtenquelle

Tags