Timnit Gebru

aus Wikipedia, der freien Enzyklopädie
(Weitergeleitet von TESCREAL)
Zur Navigation springen Zur Suche springen
Gebru (2018)

Timnit Gebru (geboren 1982 oder 1983[1] in Addis Abeba) ist eine Informatikerin, die auf dem Gebiet der künstlichen Intelligenz (KI) forscht. Bis Anfang Dezember 2020 war sie Co-Leiterin der Abteilung für Ethik in der KI (Ethical AI Intelligence Team) bei dem US-amerikanischen Technologieunternehmen Google.[1][2][3] Sie ist Mitgründerin des Distributed AI Research Institute (DAIR).[4]

Leben und Werk

[Bearbeiten | Quelltext bearbeiten]

Gebru immigrierte mit 16 Jahren in die Vereinigten Staaten.[5] Während ihrer Zeit an der Stanford University, wo sie bei Fei-Fei Li forschte und 2017 mit der Dissertation Visual computational sociology : computer vision methods and challenges in Computer Vision promoviert wurde,[6] war sie Mitbegründerin der Organisation Black in AI, die sich für die Zusammenarbeit sowie größeren Einfluss und Sichtbarkeit Schwarzer in der Forschung zu künstlicher Intelligenz einsetzt.[5][3]

Einer breiteren Öffentlichkeit bekannt wurde Gebru 2018 durch die gemeinsam mit der Informatikerin Joy Buolamwini vom MIT Media Lab verfasste Publikation Gender Shades,[1] in der die Wissenschaftlerinnen nachwiesen, dass kommerzielle Systeme zur automatischen Gesichtserkennung für Menschen mit nicht-weißer Hautfarbe sowie weibliche Personen signifikant schlechter funktionieren als für weiße, männliche Personen.[7][8][9]

“It is past time for researchers to prioritize energy efficiency and cost to reduce negative environmental impact and inequitable access to resources.”

„Es ist überfällig, dass [KI-]Forschende Energieeffizienz und -kosten priorisieren, um negative Umwelteinflüsse und ungleichen Zugang zu Ressourcen zu reduzieren.“

– Auszug aus »On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?« von Timnit Gebru et al., 2020[9]

Ab 2018 arbeitete Gebru, die zuvor ein Jahr als Postdoc bei Microsoft Research geforscht hatte,[5] bei Google AI, der KI-Abteilung des Internetkonzerns. Anfang Dezember 2020 wurde Gebrus Arbeitsvertrag mit Google fristlos aufgelöst,[10] nachdem das Management verlangt hatte, dass sie eine zum Peer-Review eingereichte Publikation über Probleme moderner KI-Systeme zur Verarbeitung natürlicher Sprache, wie sie für die Google-Suche eingesetzt werden, zurückzieht.[1][2][10][3] Laut der unter anderem von der Sprachwissenschaftlerin Emily M. Bender, Professorin an der University of Washington, mitverfassten Studie gebe es vier große Risiken dieser sogenannten Transformer, darunter die erheblichen negativen Umweltauswirkungen der für Erzeugung und Betrieb nötigen Rechenleistung sowie einen starken diskriminierenden Bias, der dadurch entstehe, dass die Modelle aus riesigen, ungefiltert aus dem Internet gescrapten Datenmengen erzeugt werden.[9]

Über die genauen Umstände von Gebrus Ausscheiden gab es widersprüchliche Angaben.[9] Laut Google-AI-Direktor Jeff Dean habe das Papier nicht den internen Qualitätsanforderungen entsprochen.[9] Gebru hatte unter anderem gefordert, ihr Informationen darüber zugänglich zu machen, welche Personen zu dieser Einschätzung beigetragen hatten.[3][9] Ein Google-AI-Mitarbeiter aus Montreal äußerte öffentlich, seine eigenen Publikationsanträge seien bislang vom Arbeitgeber zwar stets darauf begutachtet worden, ob sie sensible Informationen offenlegten, nicht jedoch bezüglich ihrer Qualität.[9] Innerhalb weniger Tage unterzeichneten über 1.400 Google-Mitarbeitende und 1.900 weitere Personen einen offenen Brief,[11][12] in dem sie die Entlassung Gebrus kritisieren.[3][9]

Im Jahr 2021 ehrte die Fachzeitschrift Nature sie mit einem Eintrag in ihrer Nature’s-10-Liste als eine der zehn Personen, welche die Wissenschaft in jenem Jahr geprägt haben.[13]

Gebru äußerte sich mehrfach kritisch über den Effektiven Altruismus.[14] Ihre Aussagen zum Terrorangriff der Hamas auf Israel 2023 wurden als antisemitisch kritisiert, nachdem sie ein Video mit dem Slogan From the River to the Sea verbreitet hatte.[15]

TESCREAL

[Bearbeiten | Quelltext bearbeiten]

Zusammen mit dem US-amerikanischen Philosophen und Historiker Émile P. Torres[16] etablierte Gebru das Akronym TESCREAL zur Beschreibung des Einflusses von miteinander verbundenen und sich überschneidender Ideologien im Bereich der Künstlichen Intelligenz;[17] es besteht aus den Anfangsbuchstaben der Begriffe Transhumanismus, Extropianismus, Singularitarianismus, Russischer Cosmismus, Rationalismus, Effektiver Altruismus und Longtermismus.[18] Sie kritisiert dabei, was sie als eine Gruppe sich überschneidender futuristischer Philosophien ansieht und ordnet diese Strömung als rechtsgerichteten Einfluss auf „Big Tech“ ein; dabei bezeichnet sie entsprechende Vertreter als „Eugeniker des 20. Jahrhunderts“.[19]

Die Wissenschaftskommentatorin Anjana Ahuja fügt hinzu: „Menschen, die sehr reich oder sehr klug oder beides sind, glauben manchmal seltsame Dinge. Einige dieser Überzeugungen werden im Akronym Tescreal zusammengefasst.“ Ahuja behauptet weiter, dass Technik-Experten diese „unscharfen Zukunftsprobleme wie z. B. existenzielle Risiken durch künstliche Intelligenz“ nur diskutierten, um von „echten Schäden … gegenwärtig“ wie algorithmischer Voreingenommenheit abzulenken.[20]

Der Soziologe James J. Hughes, ehemaliger Geschäftsführer der World Transhumanist Association (Humanity+) und Eli Sennesh kritisieren, was sie „die Anti-TESCREAL-Verschwörung“ nennen, als „reaktiv“ (statt „proaktiv“) und argumentieren, dass „jede Philosophie einen progressiven politischen Flügel hat, der ignoriert wurde.“[21]

Zeitweise beschrieb sich der US-amerikanische Softwareentwickler, Unternehmer und Finanz-Investor Marc Andreessen auf seinem „X“-Profil (ehemals twitter) u. a. als „TESCREAList“.[22]

Werk

[Bearbeiten | Quelltext bearbeiten]
  • Mit Émile P. Torres: The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence. In: First Monday. 14. April 2024, ISSN 1396-0466, doi:10.5210/fm.v29i4.13636.
[Bearbeiten | Quelltext bearbeiten]

Einzelnachweise

[Bearbeiten | Quelltext bearbeiten]
  1. ↑ a b c d Cade Metz, Oaisuke Wakabayashi: Google Researcher Says She Was Fired Over Paper Highlighting Bias in A.I. In: The New York Times. 3. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  2. ↑ a b Hugh Langley: One of Google’s leading AI researchers says she’s been fired in retaliation for an email to other employees. In: Business Insider. 3. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  3. ↑ a b c d e Markus Böhm: »Das Ausmaß der Respektlosigkeit ist unglaublich«. In: Spiegel Online. 5. Dezember 2020, abgerufen am 5. Dezember 2020.
  4. ↑ The DAIR Institute. Abgerufen am 30. Dezember 2022 (englisch).
  5. ↑ a b c Lisa Lahde: AI Innovators: How One Woman Followed Her Passion and Brought Diversity to AI. In: Forbes. 10. Juni 2018, abgerufen am 5. Dezember 2020 (englisch).
  6. ↑ Timnit Gebru. In: Mathematics Genealogy Project. Abgerufen am 5. Dezember 2020 (englisch).
  7. ↑ Steve Lohr: Facial Recognition Is Accurate, if You’re a White Guy. In: The New York Times. 9. Februar 2018, abgerufen am 5. Dezember 2020 (englisch).
  8. ↑ Joy Buolamwini, Timnit Gebru: Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. In: Proceedings of Machine Learning Research. Band 81, 2018, S. 1–15 (online [PDF]).
  9. ↑ a b c d e f g h Karen Hao: We read the paper that forced Timnit Gebru out of Google. Here’s what it says. In: MIT Technology Review. 4. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  10. ↑ a b Paresh Dave, Jeffrey Dastin: Top AI ethics researcher says Google fired her; company denies it. In: Reuters. 4. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  11. ↑ Standing with Dr. Timnit Gebru — #ISupportTimnit #BelieveBlackWomen. In: Google Walkout For Real Change. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  12. ↑ Chris Köver: KI-Forscherin Timnit Gebru - Tausende Google-Angestellte protestieren nach Rauswurf. In: netzpolitik.org. 9. Dezember 2020, abgerufen am 17. März 2021 (deutsch).
  13. ↑ Nature’s 10. In: nature.com. 15. Dezember 2021, abgerufen am 17. Dezember 2021 (englisch).
  14. ↑ Rebecca Ackermann: Inside effective altruism, where the far future counts a lot more than the present. In: MIT Technology Review. 17. Oktober 2022, abgerufen am 19. Oktober 2022 (englisch).
  15. ↑ Antisemitismus in Tech-Branche: „LOL, bleib faschistisch, Deutschland“ - WELT. 7. Dezember 2023, abgerufen am 7. Dezember 2023.
  16. ↑ Émile P. Torres, Author at. Abgerufen am 19. November 2023 (amerikanisches Englisch).
  17. ↑ Émile P. Torres: TESCREALism: The Acronym Behind Our Wildest AI Dreams and Nightmares. 15. Juni 2023, abgerufen am 19. November 2023 (amerikanisches Englisch).
  18. ↑ .: online in4mation GmbH : tescreal : TESCREAL : tescrealist :.. Abgerufen am 19. November 2023.
  19. ↑ Timnit Gebru, Émile P. Torres: The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence. In: First Monday. 14. April 2024, ISSN 1396-0466, doi:10.5210/fm.v29i4.13636 (firstmonday.org [abgerufen am 17. April 2024]).
  20. ↑ Anjana Ahuja: We need to examine the beliefs of today’s tech luminaries. In: Financial Times. 10. Mai 2023 (ft.com [abgerufen am 16. November 2023]).
  21. ↑ James J. Hughes PhD: Conspiracy Theories, Left Futurism, and the Attack on TESCREAL („Verschwörungstheorien, linker Futurismus und der Angriff auf TESCREAL: Einige Kritiker haben entschieden, dass futuristische Philosophien und ihre Befürworter in einem giftigen, reaktionären Bündel zusammengebunden sind, das von einer Kabale der Eliten des Silicon Valley gefördert wird. Diese Art der Verschwörungsanalyse hat eine lange Geschichte und ist immer eine irreführende Art, die Welt zu verstehen. Wir brauchen einen linken Futurismus, der die Mängel dieser Philosophien angehen und eine befreiende Vision formulieren kann.“ Zitat: „Wir unterstützen voll und ganz eine rücksichtslose Dekonstruktion der oberflächlichen, eigennützigen und gefährlichen Art und Weise, wie einige Milliardäre diese futuristischen Ideen übernommen haben. Aber zweihundert Jahre intellektuelle Geschichte und politische Realität auf die schlampigen Überlegungen einer Handvoll Tech-Brüder und ein dünnes Netz von Schuldgefühlen durch Assoziationen zu reduzieren, ist wie alle Verschwörungstheorien ernsthaft irreführend. ... Schlimmer noch, die Anti-TESCREAL-Verschwörung ist eher reaktiv als proaktiv.“). In: Institute for Ethics and Emerging Technologies. 26. Juni 2023, abgerufen am 16. November 2023 (englisch).
  22. ↑ .: online in4mation GmbH : tescreal : TESCREAL : tescrealist :.. Abgerufen am 19. November 2023.
Personendaten
NAME Gebru, Timnit
KURZBESCHREIBUNG Informatikerin
GEBURTSDATUM 1982 oder 1983
GEBURTSORT Addis Abeba
Abgerufen von „https://de.wikipedia.org/w/index.php?title=Timnit_Gebru&oldid=251426982#TESCREAL“