Was ist der Sinn und Zweck von … Überwachung, Big Data etc. ?

Viele verwechseln gar die Mittel und den Zweck, erfreuen sich an jenem, ohne diesen im Auge zu behalten.

Johann Wolfgang von Goethe (1749 – 1832)

prometheus

Sascha Lobo bringt in einem Artikel der FAZ das Problem rund um Überwachung und “Big Data” auf den Punkt und lenkt die Debatte endlich dahin, wo sie eigentlich hingehört, in das Zentrum menschlichen Denken und Handelns.

Überwachung ist keine Erfindung des Internets, es ist offenbar eher ein menschliches Grundbedürfnis. Es gibt auch nicht DIE Überwachung. Überwachung an sich erfolgt in Abstufungen und manigfaltigen Ausformungen. Anhand von drei kleinen Szenarien möchte ich dies verdeutlichen und damit gleichzeitig versuchen zu vermitteln, warum das Thema so überfordernd, so diffus, so schwierig einzuordnen ist:

Szenario A: Der kleine Blogger
Der kleine Blogger betreibt sein Weblog, weil er seine Gedanken teilen möchte. Jeder Klick ist für ihn eine Belohnung. Jeder “Like” eine positive Resonanz, die ihn ermutigt weiter zu machen. Um dieses Feedback überhaupt sichtbar zu machen, benötigt der kleine Blogger eine Technologie, die Daten sammelt und Daten auswertet. Eine Webseitenüberwachung. Eine Webstatistik. Daraus kann der kleine Blogger dann ablesen, wer zu welcher Zeit seine Seite besucht hat. Das freut ihn sehr.

Szenario B: Der große Blogger
Der große Blogger betreibt sein Weblog, weil er damit Geld verdienen möchte. Jeder Klick ist für ihn bares Geld. Jeder “Like” ein positives Signal für seine Werbepartner, damit sie weiterhin Werbung auf seinem Blog schalten. Um dieses Feedback überhaupt sichtbar zu machen, benötigt der große Blogger eine Technologie, die Daten sammelt und Daten auswertet. Eine Webseitenüberwachung. Eine Webstatistik. Daraus kann der große Blogger nicht nur ablesen, wer zu welcher Zeit seine Seite besucht, er kann daraus auch Rückschlüsse ziehen, welche Beiträge besonders gut bei welchen Menschen ankamen und zu welcher Zeit gelsen wurden und damit am Ende besonders viel Geld einbringen. Das freut ihn sehr.

Szenario C: Der Geheimdienst
Der Geheimdienst betreibt sein Fake-Weblog , weil er damit Staatsfeinde identifizieren möchte. Jeder Klick auf die Bombenbauanleitung ist für ihn ein potentieller Terrorist. Jeder “Like” ein Hinweis auf einen möglichen Staatsfeind. Um dieses Feedback sichtbar zu machen, benötigt der Geheimdienst eine Technologie, die Daten sammelt und Daten auswertet. Eine Webseitenüberwachung. Eine Webstatistik. Daraus kann der Geheimdienst nicht nur ablesen, wer zu welcher Zeit seine Seite besucht, er kann auch Rückschlüsse ziehen, ob es sich dabei um einen möglichen Terroristen handelt. Das freut ihn sehr.

“Datatracking” und “Datamining” ist immer nur ein Mittel zum Zweck. Der Zweck ist aber dabei das Entscheidende. Der Zweck macht den Unterschied. Es ist nicht das Gleiche, ob ich mit “Big Data” den Krebs heilen möchte, den Menschen Produkte aufschwatzen will, die sie gar nicht brauchen oder die Voraussetzung schaffe um angebliche Terroristen mit Drohnen zu töten. Das sollte man einfach nicht durcheinander würfeln. Es macht ja auch absolut keinen Sinn über die Existenzberechtigung von Messern zu diskutieren, nur weil damit manche Menschen andere Menschen umbringen, während die meisten anderen Menschen sich damit lediglich eine Scheibe Brot abschneiden. Das Messer allein macht Menschen nicht zu Hals- oder zu Brotabschneidern. Aber das Messer bedient natürlich wunderbar ein im Menschen schlummerndes Bedürfnis. Es ist das Mittel zum Zweck.

Daher sollten wir nicht darüber diskutieren ob es legitim ist Unternehmen unsere Daten zu geben, sondern wir sollten vielmehr einfordern, was mit diesen Daten jeweilig(!) geschieht, was der Sinn und Zweck und vor allem die mögliche Konsequenz der jeweiligen(!) Datensammlung und -auswertung ist. Es macht wie gesagt einfach einen Unterschied ob die Schufa meine Daten sammelt um mich einem existenziellen Scoring auszuliefern, das dann darüber entscheidet ob ich kreditwürdig bin oder nicht, oder ob Facebook meine Daten indirekt an Werbekunden verkauft, ihnen also Zugang zu meiner Wahrnehmung gibt. Es macht einen Unterschied ob die NSA Länder aufgrund von wirtschaftlichen und geostrategischen Vorteilen abhört oder sie nach potentiellen Staatsfeinden scannt. Es macht auch einen gigantischen Unterschied welche Konsequenz sich aus dem jeweiligen Abhören heraus ergibt. Will man mich für staatskritische Ansichten (die je nach Staat sehr unterschiedlich ausfallen) einsperren, mundtot machen oder automatisiert exekutieren lassen oder will man einfach nur für den Fall der Falle gewappnet sein? Sich absichern, eben weil man als Staatsbediensteter und Mensch sich für viele Millionen Menschen verantwortlich fühlt und es tatsächlich immer mal wieder ein paar Irre gibt, die andere Menschen in die Luft sprengen wollen. Letzteres ist aber etwas völlig anderes als sich durch Informationen einen Wissensvorsprung zu verschaffen und wirtschaftlich besser dominieren zu können. Gleiches gilt für Unternehmen und ihre “Überwachung”: Will man mir passende Angebote unterbreiten, weil sie wirklich meinem Interesse entsprechen könnten oder will man mich einfach nur bestmöglich übers Ohr hauen? Das sind elementare Unterschiede und ich würde mich außerordentlich freuen, wenn nicht mehr mit Angeboten konfrontiert werden, die so gar nicht zu meiner Lebenswirklichkeit passen.

Lasst uns also bitte bitte mit Zucker oben drauf lieber über den Sinn und Zweck von Werbung, über Sinn und Zweck von Massenkonsum, über Sinn und Zweck von jeweiliger politischer Herrschaftsstruktur reden und nicht alles gleichsam in einen Topf mit Namen “Big Data” werfen und an der schieren Unendlichkeit und Überfülle des Themas ohnmächtig in uns zusammensacken und den Untergang von Allem herbeibeschwören und am Ende die Technologie zum alleinigen Sündenbock deklarieren. Das ist definitiv zu einfach und führt zu nichts.

Die Zwecke, die Gründe, aus denen heraus Technologie und alle Arten von Werkzeug heute benutzt wird, WIE sie benutzt wird, ist wesentlich älter und wichtiger als die Werkzeuge und Technologiev selbst. Am Anfang war der Wille, das Interesse. Lasst uns doch darüber reden. Und lasst uns vor allem darüber diskutieren wie sehr wir uns auf diese Daten wirklich verlassen wollen. Wie sehr wir komplexe, menschliche, nicht-triviale Entscheidungen auf simple, triviale Maschinen verlagern wollen.

Sascha hat vollkommen Recht, was er da schreibt:

“Das ist das Gruseligste an dieser [Big Data] Ideologie: Sie konstruiert aus einem Wust von Daten eine vermeintliche Realität, in der keine persönliche Verantwortung mehr für maschinell getroffene und ausgeführte Entscheidungen übernommen werden muss.”

Ja, die Technologie ist die große Versuchung, die eigene Verantwortung, die eigene Entscheidung aus der Hand zu geben und die eigenen Hände in Unschuld zu waschen. Aber selbst die Versuchung ist menschlich. Sie wächst nämlich auch deshalb, weil gleichzeitig der Druck auf die Entscheidungsperson zunimmt, weil die Komplexität und die Transparenz der Konsequenz aus der jeweiligen Entscheidung zunimmt. Wir sind uns immer mehr den Interdependenzen, also den jeweiligen Abhängigkeiten voneinander und von unseren Entscheidungen bewusst. Die Technologie (und gerade das Internet) erschaffen die Kompexität udn Abhängigkeiten nicht, sie decken sie nur stärker auf.

Um nur mal ein Beispiel anzuführen: Spätestens seit dem Vietnamkrieg stehen die Befehlshaber unter stärkerem öffentlichen Druck, weil die bewegten Bilder des Krieges erstmals eine breitere Masse von Menschen global durch das Fernsehen erreichen konnten. Ich nenne das die Transparenz der Konsequenz. Und die Konsequenz der Transparenz wiederum war eine aufbäumende Protestwelle der 68er auf internationaler Ebene. Die USA musste sich erstmals für einen Kriegseinsatz bei der Bevölkerung rechtfertigen. Ein Novum. Die bisher aus dem stillen, abgeschirmten Kämmerlein mit abstrakter Weltkarte getätigten Befehle erhalten durch diese Transparenz plötzlich eine ganz andere Gewichtung. Doch nicht nur der öffentliche Druck lastet auf die jeweilige verantwortliche Person, auch die eigene empathische Gefühlswelt steht dem Befehlshaber oftmals im Wege. Eine Entscheidung lässt sich im Angesicht der unmittelbaren Konsequenz und der eigenen Gefühlswelt nur wesentlich schwieriger fällen. Dadurch dass uns Auswirkungen des globalen Handels unmittelbar durch Bilder transportiert werden wächst auch die “Gefahr” der empathischen Gefühlsregung beim Nahrungsmittelspekulanten. Die Lösung: Entweder Soziopathen den Job machen lassen oder die Maschinen und damit die Algotrader übernehmen das Business.

Eine Maschine kennt keine Empathie, kennt keine Angst, kennt kein Mitgefühl und keine Skrupel. Eine Maschine entscheidet angeblich “vernünftig”, also rein rational und rechnet die menschlichen Dilemmata rein mathematisch, als einen entmenschlichten Spielzug aus. Eine Maschine bereut nichts, eine Maschine kann verantwortlich gemacht werden ohne selbst Verantwortung zu tragen. Die Maschine ist damit das, was sie schon immer war: Eine Entlastung für den Menschen.

Doch wollen wir das wirklich? Wollen wir Machinen und Formeln derart komplexe und menschliche Entscheidungen überlassen? Ich möchte mein Leben nicht in die Hände der Algorithmen legen.

Die Internetutopie ist keine Technikutopie. Die Internetutopie speist sich allein aus den Gedanken rund um den menschlichen Zweck. Wir stehen vor einer teleologischen und nicht vor einer technologischen Frage: Was wollen wir für eine Welt gestalten und welche Mittel wenden wir dazu an und was werden wir tunlichst unterlassen?

8 comments Write a comment

  1. Ansich ein paar gute Gedanken. Aber die Konsequenz ist nicht durchdacht. Was bedeutet es denn, wenn wir Datenanalyse für alle möglichen Bewertungszwecke einsetzen?

    Beispiel Scoring: Es wird anhand von signifikanten Korrelationen ein Vorhersagewert über meine Zahlungsfähigkeit gewonnen. Die Entscheidung: bekomme ich einen Kredit oder nicht, bekomme ich den Mobilfunkvertrag oder nicht, liegt bei einem Algorithmus.

    Fühlt sich doof an. Aber was ist die Alternative?

    1. Die tollste wäre: wir lassen den Quatsch mit den Scoring und geben jeden einen Kredit und jeden einen Handyvertrag. Funktioniert nur leider nicht im Kapitalismus.

    2. Gut, dann Kommunismus! OK, einen Versuch ist es wert.

    3. Gut, damals haben das halt Menschen entschieden. Der guckten sich auch Daten an (Bankkonto) und ansonsten guckte man, ob Du Vertrauenswürdig bist. Die fanden dann deine Frisur gut oder schlecht oder dein Nachnahme klang zu ausländisch. Oder er hatte einen schlechten Tag. Aber vielleicht ist der ja mit deiner Mutter auf die selbe Schule gegangen, etc. Hmmm, sind das wirklich bessere Auswahlkriterien?

    Und zum Argument, dass trotz Datenauswertung am Ende ja immer noch ein Mensch entscheiden sollte: Wenn Du eine Datenanalyse hast und sie sagt dir, X ist vertrauenswürdig, oder X ist ein Terrorist, dann kannst du theoretisch natürlich Einspruch einlegen. Aber auf welcher Grundlage? Hast Du ein Wissen, dass die Maschine nicht hat? Eher selten. Kannst Du überhaupt die Analyse nachvollziehen? Nein, kannst Du nicht. Dass am Ende immer ein Mensch den Auslöser drucken muss, ist reine Augenwischerei.

    Was machen wir nun damit? In aller kürze: Nun, Drohnenkriege sind scheiße, automatisiert, oder menschlich. Töten sollte man lassen. Ansonsten: Scoring sollte transparent sein. Alle Alogrithmen open source. Es braucht Institutionen, die da ein Auge drauf haben. Werbung: so what, installiert euch Adblocker, wenn sie euch stört.

  2. Patrick Breitenbach

    Ich habe nichts dagegen, wenn beim Scoring eine Datenanalyse eine Entscheidungsgrundlage liefert. Wogegen ich mich hingegen massiv wehre ist, dass die Entscheidung irgendwann automatisiert maschinell getroffen wird und zwar in einem Ausmaß, wo Mensch gar nicht mehr in der Lage ist ins System einzugreifen: http://www.cbsnews.com/news/40-million-mistakes-is-your-credit-report-accurate-25-08-2013/

    Überhaupt kann man Scoring egal ob menschlich oder maschinell kritisch hinterfragen. Was sagt mir denn die Vergangenheit über die Zukunft? Goar nix, Daher empfinde ich die persönliche Vertrauensbeziehung schon als wesentlich galanter als die maschinelle Auswertungen von vergangenen Datenspuren. Vielleicht muss man das Scoring auch völlig neu erfinden ohne gleich einen Systemausstieg zu vollziehen.

    Ich sehe Technik da nicht als Allheilmittel und es macht das kapitalistische System noch ein Stück entmenschlichter. Das ist einfach meine Sorge.

    Ich halte deine Grundannahme Maschinen seien klüger als Menschen für grundlegend falsch. Fakten (Datensätze) ist etwas anderes als Wissen ist etwas anderes als Bildung. Es gibt emotionale Faktoren, die man nicht einfach wegkürzen kann und sollte. Auch wenn es genug Beispiele gibt bei denen Emotionen eher hinderlich sind. Aber mir graut es vor einer maschinellen Welt.

    Wenn es nach den Argumenten davor ginge, benötigten wir ja auch niemanden mehr, der “ein Auge” auf die Algorithmen werfen soll. Wozu? Ich dachte Maschinen sind eh klüger. ;-)

  3. Ich glaube, “klüger” und “dümmer” sind Begriffe, die an dieser Stelle schnell in die Irre führen.

    Aber natürlich ist es erstmal Ansichtssache, wem man ein besseres Urteil zutraut, dem Menschen, oder der Maschine.

    Auch jede Bank ist da erstmal agnostisch. Sie schauen sich die Zahlen: Wer in seiner Vorhersage besser abschneidet lässt sich leicht ermitteln, indem man einfach guckt, wie sich die Rückzahlquote seit der automatisierung entwickelt. Eine Bank hat ja schließlich kein Geld zu verschenken. ;)

  4. Patrick Breitenbach

    A propos Banken. Bei der Risikobewertung arbeitet man beispielsweise heute noch mit einem mangelhaften Modell als Grundlage: http://karlsdialoge.de/karlsdialoge-030-mit-prof-dr-ekatarina-svetlova-und-karl-heinz-thielmann-ueber-die-grosse-risikoverwirrung-in-der-finanzwelt/

    Man stelle sich das nun auch noch maschinell in der Abwicklung vor. Prost Mahlzeit.

    Aber wie ich finde ein sehr schönes Beispiel, vor allem auch dafür wie maschinell Mensch mitunter denkt. Das führt uns dann zur prinzipiell unentscheidbaren metaphysischen Frage was den Menschenverstand eigentlich ausmacht. Ich kann nur erahnen was ihn vom maschinellem “Verstand” unterscheidet.

  5. Pingback: Was ist der Sinn und Zweck von … Üb...

  6. Pingback: Was ist der Sinn und Zweck von ... Überwac...

  7. Gegen automatisierte Berechnungen der Kreditwürdigkeit mit den Mitteln der Wahrscheinlichkeitsrechnung spricht gar nichts. Allerdings spricht eine Menge gegen die Geheimniskrämerei von Schufa und Co., die als Monopolisten agieren und die Berechnungsformel für das Scoring nicht offenlegen. Sie entziehen sich damit einer Überprüfbarkeit. Allein diese Tatsache macht sie in meinen Augen verdächtig. Ich werde jetzt jedes Jahr die Schufa mit Anfragen über meinen Score-Wert nerven, bis ich die Formel des Prognosemodells bekomme und überprüfen kann.

  8. Pingback: Ausgelagerte Verantwortung: Tracking, Überwachung und Big Data | Carta

Leave a Reply