Die Toronto Deklaration

 

Am 16.5.2018 veröffentlichte in Toronto eine Koalition von Menschenrechts- und Technologiegruppen eine neue Erklärung zu Standards des maschinellen Lernens. Darin werden Regierungen und Technologieunternehmen aufgefordert, dafür zu sorgen, dass die zur Anwendung gelangenden Algorithmen die Grundprinzipien der Gleichheit und Nichtdiskriminierung respektieren.

Das Dokument mit dem Titel The Toronto Declaration (Deklaration von Toronto) (Ref 1) konzentriert sich auf die Verpflichtung, zu verhindern, dass Systeme des maschinellen Lernens die bestehenden Menschenrechtsgesetze diskriminieren und in einigen Fällen verletzen. Die Erklärung wurde im Rahmen der RightsCon-Konferenz angekündigt, einem jährlichen Treffen von Digital- und Menschenrechtsgruppen.

“Wir müssen uns weiterhin darauf konzentrieren, wie sich diese Technologien auf einzelne Menschen und Menschenrechte auswirken werden”, heißt es in der Präambel. “Wer wird in einer Welt der maschinellen Lernsysteme Verantwortung für die Verletzung der Menschenrechte tragen?”

Die Erklärung wurde bereits von Amnesty International, Access Now, Human Rights Watch und der Wikimedia Foundation unterzeichnet. Weitere Unterzeichner werden in den kommenden Wochen erwartet.

Die Erklärung ist zwar nicht rechtsverbindlich, sie soll jedoch den Regierungen und Tech-Unternehmen, die sich mit diesen Fragen befassen, als Orientierungshilfe dienen, ähnlich den früher veröffentlichten „Notwendigen und verhältnismäßigen Überwachungsgrundsätzen“ (Ref (2)). Es ist unklar, wie sich die Prinzipien in spezifische Entwicklungspraktiken umsetzen lassen, obwohl in Zukunft noch spezifischere Empfehlungen zu Datensätzen und -eingaben entwickelt werden können.

Über allgemeine Nichtdiskriminierungspraktiken hinaus konzentriert sich die Erklärung auf das individuelle Recht auf Abhilfe, wenn algorithmische Diskriminierung auftritt. “Dies kann zum Beispiel die Schaffung klarer, unabhängiger und sichtbarer Prozesse zur Wiedergutmachung nach nachteiligen individuellen oder gesellschaftlichen Auswirkungen umfassen”, “[und Entscheidungen treffen] vorbehaltlich zugänglicher und wirksamer Rechtsmittel und gerichtlicher Überprüfung” so die Deklaration.

In der Praxis bedeutet dies auch deutlich mehr Einblick in die Funktionsweise beliebter Algorithmen. “Transparenz ist integraler Bestandteil der Rechenschaftspflicht. Es geht nicht nur darum, die Nutzer mit Produkten vertraut zu machen “, sagte Dinah PoKempner, General Counsel bei Human Rights Watch. “Es geht auch darum sicherzustellen, dass KI ein Mechanismus ist, der zum Wohl der Menschenwürde beiträgt.”

Viele Regierungen bewegen sich bereits in ähnlichen Bahnen. Auf der Eröffnungssitzung der RightsCon erklärte die kanadische Ministerin für Kulturerbe, Mélanie Joly, dass die algorithmische Transparenz für den breiteren Informationsaustausch im Internet von entscheidender Bedeutung sei. “Wir glauben an ein demokratisches Internet”, sagte Joly. “Für uns ist die Transparenz von Algorithmen sehr wichtig. Wir müssen das Rezept nicht kennen, aber wir wollen die Zutaten kennen. ”

Referenzen:

(1) Toronto Deklaration

https://www.accessnow.org/the-toronto-declaration-protecting-the-rights-to-equality-and-non-discrimination-in-machine-learning-systems/

(2) Internationale Prinzipien zur Anwendung der Menschenrechte bei der Kommunikationsüberwachung

https://necessaryandproportionate.org/principles

---