Ein Algorithmus ist gleich ein Algorithmus ist gleich ein Algorithmus?

Ein Gastbeitrag von Martina Mahnke*

Eine kurze Stichwortsuche nach dem Begriff „Algorithmus“ in den Online-Archiven der deutschen Leitmedien ergibt über 1.300 (!) Artikel. Doch wovon reden wir eigentlich, wenn wir von Algorithmen reden? Was ist es, was der Algorithmus macht und was sind gesellschaftliche Konsequenzen? Wie können wir das „Algorithmen-Problem“ sinnvoll wissenschaftlich untersuchen? Diese und weitere Fragen stellt das lesenswerte Provokationspapier „Governing Algorithms: A Provocation Piece“, entworfen für die Konferenz „Governing Algorithms“, die am 16./17. Mai 2013 in New York stattfand. Barocas, Hood und Ziewitz wollen Denkanstöße geben und hinterfragen Grundsätzliches. Nachfolgend eine kurze Zusammenfassung der zentralen provokanten Fragestellungen:

  1. Ein Algorithmus – Was ist das eigentlich? Der Begriff „Algorithmus“ hat einen fast mystischen Status erreicht und ist zurzeit in aller Munde. Das zeigt nicht nur dieser Blog, sondern auch Workshop-Titel wie „Algorithms and Markets“ (London School of Economics) oder „Code and Control in Online Spaces“ (Hamburg). Doch was ist das eigentlich genau – ein Algorithmus? Was verbirgt sich hinter dem Begriff und woher kommt das wachsende Interesse an diesem? Auch in der Wissenschaft werden immer wieder gern neue Begriffe verwendet, ist „Algorithmus“ einer von diesen? Worin liegt der Unterschied zu „big data“ und „code“? Würden wir den Algorithmus-Begriff mit dem Begriff des Computers ersetzen, würden wir dann die gleiche Diskussion führen?
  2. Methoden, Wissen, Know-how Algorithmen werden auf der einen Seite als etwas Regulatives, Klassifizierendes, teilweise sogar als etwas Bewertendes dargestellt, auf der anderen als Black-Box-Phänomen. Wie ist das zu erklären? Entstehen diese unterschiedlichen Konnotationen aufgrund der verschiedenen Blickwinkel der einzelnen Disziplinen? Wie sollen Algorithmen untersucht werden? Fachspezifisch oder interdisziplinär? Kann die Black-Box überhaupt geöffnet werden und wenn ja, wie?
  3. Probleme und Lösungen, Erfolg und Misserfolg Algorithmen lösen Probleme. Sind das Probleme, die ohne Algorithmen gar nicht erst entstanden wären? Google’s EdgeRank soll zum Beispiel Orientierung bieten, Ordnung in das „Chaos Internet“ bringen. Eine algorithmische Lösung wird hier als selbstverständlich hingenommen. Was wären Alternativen? Was wäre, wenn die Computerwelt Algorithmen nicht als selbstverständlich annimmt? Wie könnte das Problem des Informationsüberflusses noch gelöst werden?
  4. Agency, Automatisierung, Verantwortung 1998 hat Peter Slezak geschrieben, dass wissenschaftliche Forschung mit dem Computer völlig unabhängig von sozialen und kulturellen Faktoren stattfinden würde. Schon damals gab es viel Widerstand, doch die Faszination der intelligenten, unabhängigen Maschine hat von ihrer Anziehungskraft bis heute nichts verloren. Wer oder was ist es also, was Maschinen so intelligent und so autonom erscheinen lässt? Algorithmen tragen im heutigen Internet zum Beispiel zur Informationsfilterung bei. Dabei werten sie eine vergleichsweise große Datenmenge in kurzer Zeit aus, unmöglich für uns als Menschen. Da die Auswertung nach bestimmten Kriterien erfolgt, treffen die Algorithmen auf die ein oder andere Art und Weise Entscheidungen. Üben Algorithmen dadurch Kontrolle aus? Oder sind es nicht eher die dahinter stehenden Programmierer oder gar die gesamte Firma? Wer oder was trägt hier die Verantwortung?
  5. Geheim, dunkel, unergründlich Nutzer wissen oft nicht, wann sie auf einen Algorithmus treffen und wann nicht. Im Bereich des Datenjournalismus werden mittlerweile komplette Texte algorithmisch, dass heißt voll automatisch, erstellt. Da diese aber Grundlage des Geschäftsmodells sind, werden sie nicht offengelegt. Firmen argumentieren außerdem häufig, dass Algorithmen zu komplex geworden sind, als dass sie von Einzelpersonen noch verstanden werden können. Selbst wenn Larry Page und Sergey Brin an einem Tisch sitzen würden, könnten sie dann die über 200 Kriterien, die Einfluss auf das Google-Suchergebnis haben, erklären? Macht es also überhaupt Sinn den Algorithmus verstehen zu wollen? Können wir ihn überhaupt noch verstehen?
  6. Normativität, implizite Werte und Verzerrungen Von der Techniksoziologie haben wir gelernt, dass Technik nicht neutral ist, sondern immer auch historisch und kontextgeprägt ist. Nicht immer setzt sich also die „beste“ Technologie durch. Solche Prägungen werden in der Fachsprache „bias“ genannt. Da auch Algorithmen historisch und kontextgeprägt sind, können sie dann überhaupt neutral sein? Falls ja, welche Werte sprechen dann für eine solche Neutralität? Was wäre ein guter Algorithmus und was ein schlechter? Gut für wen und schlecht für wen? Wie können diese Werte überhaupt implementiert werden? In der Software, im Design oder gar nicht der dem Algorithmus eigenen Dynamik?
  7. Regeln, Regulierung und Widerstand Automatische Regelsysteme wurden schon in den 70ziger Jahre kritisch untersucht. Wieder (1974) kommt zu dem Schluss, dass Code nicht zu letztendlichen Entscheidungen über Gut und Böse führt, sondern verschiedene Interaktionsmöglichkeiten bietet. Daher, so Wieder, liegt die Verantwortung auch beim Nutzer. Wie können Algorithmen dann also in der konkreten Interaktion untersucht werden? Wie kann herausgefunden, welche Absicht hinter den Algorithmen steht? Wenn man die verschiedenen Erscheinungsformen von Algorithmen bedenkt, wie können sie dann reguliert werden? Oder regulieren sie doch uns? Und was würde Widerstand hin dieser Hinsicht bedeuten?

Zusammengefasst stellt sich also die Frage: Worüber sprechen wir, wenn wir über die Regulierung von und durch Algorithmen sprechen?

Was wir von diesem Provokationspapier lernen können, ist, dass es noch viel zu lernen gibt. Wie in allen Dingen im Leben ist es auch beim Thema Code und Algorithmus wichtig, es nicht von vornherein zu „verteufeln“, sondern sich mit dem Thema kritisch auseinanderzusetzen. Dass viele dazu bereit sind, zeigt unter anderem auch dieses Blog. Herzlichen Dank dafür an Sie als Leser und auch an das Hans-Bredow-Institut!

* Martina Mahnke, M.A., ist Doktorandin am Graduiertenkolleg „ComDigMed“ der Universität Erfurt und beschäftigt sich in ihrer Dissertation mit Algorithmic Media.

Advertisements

2 Kommentare

  1. Pingback: PRISM – oder: Warum die Überwachung schlecht für unsere Gesellschaft ist | jamesvermont.at

  2. Pingback: PRISM – oder: Warum die Überwachung schlecht für unsere Gesellschaft ist | jamesvermont.at

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s