Die Toronto Deklaration

 

Am 16.5.2018 veröffentlichte in Toronto eine Koalition von Menschenrechts- und Technologiegruppen eine neue Erklärung zu Standards des maschinellen Lernens. Darin werden Regierungen und Technologieunternehmen aufgefordert, dafür zu sorgen, dass die zur Anwendung gelangenden Algorithmen die Grundprinzipien der Gleichheit und Nichtdiskriminierung respektieren.

Das Dokument mit dem Titel The Toronto Declaration (Deklaration von Toronto) (Ref 1) konzentriert sich auf die Verpflichtung, zu verhindern, dass Systeme des maschinellen Lernens die bestehenden Menschenrechtsgesetze diskriminieren und in einigen Fällen verletzen. Die Erklärung wurde im Rahmen der RightsCon-Konferenz angekündigt, einem jährlichen Treffen von Digital- und Menschenrechtsgruppen.

“Wir müssen uns weiterhin darauf konzentrieren, wie sich diese Technologien auf einzelne Menschen und Menschenrechte auswirken werden”, heißt es in der Präambel. “Wer wird in einer Welt der maschinellen Lernsysteme Verantwortung für die Verletzung der Menschenrechte tragen?”

Die Erklärung wurde bereits von Amnesty International, Access Now, Human Rights Watch und der Wikimedia Foundation unterzeichnet. Weitere Unterzeichner werden in den kommenden Wochen erwartet.

Die Erklärung ist zwar nicht rechtsverbindlich, sie soll jedoch den Regierungen und Tech-Unternehmen, die sich mit diesen Fragen befassen, als Orientierungshilfe dienen, ähnlich den früher veröffentlichten „Notwendigen und verhältnismäßigen Überwachungsgrundsätzen“ (Ref (2)). Es ist unklar, wie sich die Prinzipien in spezifische Entwicklungspraktiken umsetzen lassen, obwohl in Zukunft noch spezifischere Empfehlungen zu Datensätzen und -eingaben entwickelt werden können.

Über allgemeine Nichtdiskriminierungspraktiken hinaus konzentriert sich die Erklärung auf das individuelle Recht auf Abhilfe, wenn algorithmische Diskriminierung auftritt. “Dies kann zum Beispiel die Schaffung klarer, unabhängiger und sichtbarer Prozesse zur Wiedergutmachung nach nachteiligen individuellen oder gesellschaftlichen Auswirkungen umfassen”, “[und Entscheidungen treffen] vorbehaltlich zugänglicher und wirksamer Rechtsmittel und gerichtlicher Überprüfung” so die Deklaration.

In der Praxis bedeutet dies auch deutlich mehr Einblick in die Funktionsweise beliebter Algorithmen. “Transparenz ist integraler Bestandteil der Rechenschaftspflicht. Es geht nicht nur darum, die Nutzer mit Produkten vertraut zu machen “, sagte Dinah PoKempner, General Counsel bei Human Rights Watch. “Es geht auch darum sicherzustellen, dass KI ein Mechanismus ist, der zum Wohl der Menschenwürde beiträgt.”

Viele Regierungen bewegen sich bereits in ähnlichen Bahnen. Auf der Eröffnungssitzung der RightsCon erklärte die kanadische Ministerin für Kulturerbe, Mélanie Joly, dass die algorithmische Transparenz für den breiteren Informationsaustausch im Internet von entscheidender Bedeutung sei. “Wir glauben an ein demokratisches Internet”, sagte Joly. “Für uns ist die Transparenz von Algorithmen sehr wichtig. Wir müssen das Rezept nicht kennen, aber wir wollen die Zutaten kennen. ”

Referenzen:

(1) Toronto Deklaration

https://www.accessnow.org/the-toronto-declaration-protecting-the-rights-to-equality-and-non-discrimination-in-machine-learning-systems/

(2) Internationale Prinzipien zur Anwendung der Menschenrechte bei der Kommunikationsüberwachung

https://necessaryandproportionate.org/principles

[Total: 0    Average: 0/5]

Gerhard Schimpf, the recipient of the ACM Presidential Award 2016, has a degree in Physics from the University of Karlsruhe. As a former IBM development manager and self-employed consultant for international companies, he has been active in ACM for over four decades. He was a leading supporter of ACM Europe, serving on the first ACM Europe Council in 2009. He was also instrumental in coordinating ACM’s spot as one of the founding organizations of the Heidelberg Laureates Forum. Gerhard Schimpf is a member of the German Chapter of the ACM (Chair 2008 – 2011) and a member of the Gesellschaft für Informatik. --oo-- Gerhard Schimpf, der 2016 mit dem ACM Presidential Award geehrt wurde, hat an der TH Karlsruhe Physik studiert. Als ehemaliger Manager bei IBM im Bereich Entwicklung und Forschung und als freiberuflicher Berater international tätiger Unternehmen ist er seit 40 Jahren in der ACM aktiv. Er war Gründungsmitglied des ACM Europe Councils und gehört zum Founders Club für das Heidelberg Laureate Forum, einem jährlichen Treffen von Preisträgern der Informatik und Mathematik mit Studenten. Gerhard Schimpf ist Mitglied des German Chapter of the ACM (Chairperson 2008 – 2011) und der Gesellschaft für Informatik.


Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.

WP Facebook Auto Publish Powered By : XYZScripts.com