Special Guest: Dr. Sandra Wachter

Im neuwaerts.fm TRANSFORMER Interview mit Gastgeber Ingo Stoll spricht Dr. Sandra Wachter von renomierten Oxford Internet Institute (OII) über digitale Ethik, künstliche Intelligenz und worauf es ankommt, wenn Algorithmen entscheiden.

"Wir müssen die ethischen Fragen jetzt klären, sonst ist es zu spät."
[Dr. Sandra Wachter]

 

Dr. Sandra Wachter ist Wissenschaftlerin im Bereich Data Ethics und Algorithmen am Oxford Institut der University of Oxford und sie ist Mitglied des Forschungsclusters Informationsethik und Informationsphilosophie der University of Oxford. Bevor sie zum OII kam, arbeitete Sandra am Alan Turing Institute und an der Royal Academy of Engineering. Sie ist als politische Beraterin für Regierungen und NGOs für regulatorische und ethische Fragen bezüglich aufkommender Technologien auf der ganzen Welt tätig. Außerdem ist sie Mitglied des Rechtsauschusses des IEEE.

Ihre unmittelbare Forschung fokussiert sich auf ethisches Design von Algorithmen einschließlich der Entwicklung von Standards und Methoden, um Fairness, Verantwortung, Transparenz, Deutbarkeit und Gruppensicherheit in komplexen algorithmischen Systemen zu gewährleisten.

Sandras Forschung befasst sich ebenfalls mit gesetzlichen und ethischen Aspekten von Robotik (z.B. Operationsrobotern, Haushaltsrobotern und Social Robots) und autonomen Systemen (z.B. autonome und vernetzte Fahrzeuge) einschließlich der Fragen der Haftung, Verantwortung und des Datenschutzes sowie der internationalen Politik und der regulatorischen Maßnahmen hinsichtlich sozialer und ethischer Auswirkungen der Automatisierung.

 

Ethisches Design für Algorithmen

Ein Algorithmus ist eigentlich nichts anderes als eine Anleitung, mit der ein Computer ein Problem lösen kann. Das können sehr einfache Anleitungen sein, zum Beispiel wie ein Computer den Durchschnitt aus zwei Zahlen ausrechnen soll. Doch Algorithmen können auch Anleitungen für sehr komplexe Aufgaben sein: Sie steuern Roboter. Sie sagen die Wahrscheinlichkeit für einen Einbruch in einem bestimmten Stadtteil vorher. Oder sie prüfen bei der Passkontrolle am Flughafen innert Sekunden, ob jemand in einer Datenbank für mutmassliche Terroristen vermerkt ist. Dabei machen Algorithmen auch Fehler, wenn sie etwa die falschen Daten verwenden. Oder einen falschen Schluss aus diesen Daten ziehen. Die Folgen: Menschen werden irrtümlich betrieben, am Flughafen fälschlicherweise für Terroristen gehalten, oder sitzen längere Haftstrafen ab, als sie müssten

Sandra Wachter schlägt vor, eine unabhängige Instanz einsetzen: "Diese hätte dann die Rechte, den Algorithmus zu begutachten. Sie könnte prüfen, ob der Algorithmus funktioniert und faire, nachvollziehbare Entscheidungen trifft."

 

"Wir brauchen ein Recht auf Erklärung, wenn Algorithmen Lebensentscheidungen beeinflussen."
[Dr. Sandra Wachter]

 

Doch mittlerweile sind viele Algorithmen so komplex, dass auch eine solche Prüfinstanz nicht immer genügt. Nicht selten verstehen selbst die Programmierer eines Algorithmus' nicht mehr genau, wie dieser zu seinen Entscheidungen kommt.

 

Sandra Wachter im Dialog mit Brent Goff auf der CeBIT Global Conferences 2017, Hannover

 

"Es geht nicht nur um die Zukunft der künstlichen Intelligenz. Bereits heute haben Algorithmen entscheidenden Einfluss über Kreditanträge, Gerichtsurteile und Erfolgswahrscheinlichkeiten."
[Dr. Sandra Wachter]

 

Dr. Sandra Wachter zu Gast bei neuwaerts.fm

 

Links aus der Show & weitere Infos

• "AI watchdog needed to regulate automated decision-making" - Artikel im Guardian (01|2017)
• "Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation" - Paper von Dr. Sandra Wachter, Brent Mittelstadt und Luciano Floridi (12|2016)
• "Achtung Algorithmus! Irren ist menschlich – aber nicht nur" - Sendung: Radio SRF 2 Kultur, Wissenschaftsmagazin (4.2.2017)
• Sandra Wachter auf LinkedIn
• Sandra Wachter auf Twitter

• Oxford Internet Institute - A multidisciplinary research and teaching department of the University of Oxford, dedicated to the social science of the Internet

• Alan Turing Institute

 

Mein Dank geht an Sandra Wachter für Einblicke und Gedanken zu einem der relevantesten Themen unserer Zeit.