Direktiven für intelligente Algorithmen

 

Ich erinnere mich noch lebhaft an einen Flug von Johannesburg nach Kapstadt. Nach der Landung meldete sich der Kapitän: „Meine Damen und Herren, Sie sind soeben Zeuge einer automatischen Landung unseres Flugzeugs geworden.“ Mir war unwohl. Hätte ich diesen Flug genommen, wenn man mir beim Check-in gesagt hätte, dass wir heute automatisch landen werden? Ich halte mich für Technik-affin und habe selbst Software entwickelt. Aber gerade darum weiß ich, dass Programme Fehler machen und dass Computer die unliebsame Eigenschaft haben, gerade im entscheidenden Moment abzustürzen, weil sie eine Fehlersituation nicht beherrschen.

Das sind mehr als 20 Jahre her und diese Art Software, Assistenzsysteme unter Kontrolle von Menschen, setzen wir mittlerweile auch im Alltag ein. Mit großer Selbstverständlichkeit benutzen wir das Navi in unserem Auto und ärgern uns dann, wenn es uns zur Vermeidung eines Staus auf eine Ausweichroute geführt hat, in der wir erst recht im Stau stehen, weil alle anderen Fahrer auch dem Rat ihrer Navis gefolgt sind. Wir sind der Technik gefolgt und nicht unserem eigenen Vorwissen oder Bauchgefühl. Aber immerhin hatten wir die Freiheit selbst zu entscheiden.

Bei den heutigen intelligenten Algorithmen ist das zunehmend nicht mehr der Fall. Um es gleich vorweg zu nehmen, egal ob es sich um lernenden Systeme, die anhand von massenhaft gesammelten Daten trainiert werden oder ob sie selbständig mittels neuronaler Netzwerke weiter lernen, es handelt sich nicht um höhere Wesen. Es sind mathematische Objekte der Statistik und der linearen Algebra. Sie verwerten Daten, die fortwährend von uns abgesaugt werden, wissentlich oder unwissentlich, freiwillig oder unfreiwillig. Wo laufen diese Daten hin? Welche Auswirkung hat ein Facebook like für mein zukünftiges Leben? Im Hintergrund sind große Datenspeicher aktiv. Dort lauert unser „digitales Schicksal“. Permanent arbeiten Auswerte- und Analyseprogramme daran Profile über uns anzulegen, die dann in Entscheidungen einfließen.

Diese kommen dann beim Online-Shopping in Form von Recommender-Systemen zurück und nicht immer sind sie neutral und frei von Annahmen, die über uns getroffen werden. Neuerdings hält Apple ein Patent zum Thema “vorausschauendes Liefern”: Waren sollen auf den Weg gebracht werden, noch bevor der Kunde auf “Kaufen” geklickt hat. Aus Suchanfragen ermitteln Algorithmen, was Menschen demnächst kaufen wollen. Es gibt zudem die Vermutung, dass Produkte einer höheren Preiskategorie vorgeschlagen werden, weil man hinter dem bisherigen Kaufverhalten des Benutzer, der zudem seine Bestellung mit einem Apple MacBook Pro aufgegeben hat, einen zahlungskräftigen Kunden vermutet. Oder, dass eine Zahlung per Kreditkarte verweigert wird, weil der Kunde eine Adresse angegeben hat, die prekäre Lebensumstände vermuten lässt.

Intelligente Algorithmen entscheiden bei Einstellverfahren darüber, wer die Stelle erhält und sie entscheiden bei Kreditvergabe über die Konditionen.

Intelligente Algorithmen, die vorurteilsfrei und nicht diskriminierend entscheiden, sich also an ethische Normen halten, sind sowohl Gegenstand der öffentlichen Kritik und Wahrnehmung als auch der Forschung. Es zeigt sich, dass diese Algorithmen für sich genommen wertfrei sind. Sie bilden lediglich aufgrund der zur Verfügung stehenden Daten die Verhältnisse unserer Gesellschaften ab. Sie verstärken die positiven und negativen Aspekte und machen diese auf eine bisher nie gesehene Art sichtbar. Ist es daher nicht an der Zeit Transparenz zu schaffen und eine Rechenschaftspflicht zu fordern?

Statement on Algorithmic Transparency and Accountability.

Genau diesen Fragen hat sich die ACM angenommen. In einer gemeinsam verabschiedeten Direktive des ACM US Public Policy Council und des ACM Europe Council werden sieben Prinzipien für Algorithmen gefordert. Die ACM bezieht sich dabei auf ihre eigenen ethischen Normen und sieht sich hier als unparteiischer Vermittler zwischen den Handelnden: den Forschern, Ingenieuren, der Öffentlichkeit und dem Gesetzgeber.

  1. Bewusstsein
    Alle Verantwortlichen sind aufgerufen Bewusstsein darüber zu schaffen, dass Algorithmen Fehler haben können und zu Schlussfolgerungen kommen, die diskriminierend sind, Vorurteile verstärken und Freiheitsrechte verletzen.
  2. Zugang und Wiedergutmachung
    Regulierungsbehörden werden aufgefordert dafür zu sorgen, dass Mechanismen geschaffen werden, die es ermöglichen, dass Entscheidungen die auf Algorithmen beruhen, hinterfragt werden können. Falls Gruppen dadurch benachteiligt werden, müssen sie entschädigt werden.
  3. Rechenschaftspflicht
    Institution müssen dafür verantwortlich gemacht werden für die Entscheidungen durch Algorithmen, die sie verwenden. Dies trifft selbst für den Fall zu, dass es nicht möglich ist im Detail zu erklären, wie diese Algorithmen ihre Resultate erzeugt haben.
  4. Erklärungspflicht
    Institutionen, die zur Entscheidungsfindung Algorithmen verwenden, werden aufgefordert die dafür verwendeten Prozeduren offenzulegen. Dies betrifft die Arbeitsweise der Algorithmen und die getroffenen Entscheidungen. Dies ist besonders wichtig im Bereich der öffentlichen Ordnung.
  5. Herkunft der Daten
    Von den Entwicklern lernender Algorithmen wird gefordert, dass sie die Herkunft und Beschaffenheit der Trainingsdaten dokumentieren. Diese müssen auch eine Analyse vornehmen im Hinblick auf mögliche Vorurteile, die der menschliche oder maschinelle Prozess der Datenerfassung beinhaltet. Eine öffentliche Überprüfung dieser Daten bietet eine maximale Gelegenheit zur Korrektur. Geschäftsgeheimnisse oder der Schutz persönlicher Daten sowie die Offenlegung der Analytik, die von Angreifern verwendet werden könnte, steht dem möglicherweise entgegen. Sie rechtfertigt dann die Überprüfung ausschließlich durch dafür öffentlich verpflichtete Experten.
  6. Überprüfbarkeit
    Modelle, Algorithmen und deren Entscheidungsfindung müssen revisionsfähig dokumentiert werden, damit im Fall von vermuteten Schäden eine Revision stattfinden kann.
  7. Validierung und Test
    Institutionen sollten ihre Modelle durch rigorose Tests validieren und die Resultate dokumentieren. Diese Tests sollten routinemäßig wiederholt werden, um sicherzustellen, dass die Modelle keine diskriminierenden Schäden anrichten. Institutionen werden angehalten, diese Testergebnisse zu veröffentlichen.

Noch spielen sich viele Geschehnisse mit intelligenten Algorithmen im weitgehend rechtsfreien Raum ab – eine erste Gegenwehr findet sich in der neuen EU Datenschutz-Grundverordnung. Zur Realisierung der oben genannten Prinzipien liegt ein weites Feld der Forschung vor uns.

Referenz:
https://www.acm.org/binaries/content/assets/public-policy/2017_usacm_statement_algorithms.pdf

 

[Total: 0    Average: 0/5]

Gerhard Schimpf, the recipient of the ACM Presidential Award 2016, has a degree in Physics from the University of Karlsruhe. As a former IBM development manager and self-employed consultant for international companies, he has been active in ACM for over four decades. He was a leading supporter of ACM Europe, serving on the first ACM Europe Council in 2009. He was also instrumental in coordinating ACM’s spot as one of the founding organizations of the Heidelberg Laureates Forum. Gerhard Schimpf is a member of the German Chapter of the ACM (Chair 2008 – 2011) and a member of the Gesellschaft für Informatik. --oo-- Gerhard Schimpf, der 2016 mit dem ACM Presidential Award geehrt wurde, hat an der TH Karlsruhe Physik studiert. Als ehemaliger Manager bei IBM im Bereich Entwicklung und Forschung und als freiberuflicher Berater international tätiger Unternehmen ist er seit 40 Jahren in der ACM aktiv. Er war Gründungsmitglied des ACM Europe Councils und gehört zum Founders Club für das Heidelberg Laureate Forum, einem jährlichen Treffen von Preisträgern der Informatik und Mathematik mit Studenten. Gerhard Schimpf ist Mitglied des German Chapter of the ACM (Chairperson 2008 – 2011) und der Gesellschaft für Informatik.


Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.

WP Facebook Auto Publish Powered By : XYZScripts.com