Im November erregte der Amnesty-Bericht über die Gefahren für die Menschenrechte, die sich aus dem Geschäftsmodell von Facebook und Google ergeben, große Aufmerksamkeit. Die Zusammenfassung (“Executive Summary”) des Berichts ins haben wir Deutsche übersetzt und stellen ihn hier zur Verfügung. Wir freuen uns, wenn er weiter verbreitet wird.
Als PDF kann der Bericht hier heruntergeladen werden. (hier noch einmal das englische Original)
Unsere Welt ist durch das Internet in einem Ausmaß verändert worden, wie seit der Nutzbarmachung der Elektrizität nicht mehr. Über die Hälfte der Weltbevölkerung bedient sich heute des Internets, um Nachrichten zu lesen, einem nahestehenden Menschen eine Nachricht zu übermitteln, eine Arbeitsstelle zu finden oder um Antworten auf eine wichtige Frage zu suchen. Es hat soziale und wirtschaftliche Möglichkeiten in einer Weise und mit einer Geschwindigkeit eröffnet, die sich vor fünfzig Jahren kaum jemand vorstellen konnte. Es ist nun fest anerkannt, dass der Zugang zum Internet unerlässlich für die Wahrnehmung der Menschenrechte ist. Für mehr als vier Milliarden Menschen ist das Internet zu einem bestimmenden Mittel geworden wie sie kommunizieren, lernen, am Wirtschaftsleben teilnehmen und sich sozial und politisch organisieren.
Jedoch: Die meisten dieser vier Milliarden nutzen bei der Teilnahme am Online-Leben zum großen Teil die Dienste von nur zwei Unternehmen. Zwei Firmen kontrollieren die wichtigsten Kanäle, auf die sich die Menschen im Internet verlassen. Ihre Dienstleistungen sind so umfassend, dass sie aus dem Internet nicht mehr wegzudenken sind.
Facebook ist das weltweit dominierende Social-Media-Unternehmen. Ein Drittel der Menschheit nutzt täglich einen Dienst von Facebook: Die soziale Plattform, WhatsApp, Messenger und Anwendungen wie Instagram. Facebook legt Bedingungen für menschliche Kontakte im digitalen Zeitalter fest.
Ein zweites Unternehmen, Google, hat einen noch größeren Anteil an der Online-Welt. Suchmaschinen sind eine entscheidende Informationsquelle, und auf Google entfallen etwa neunzig Prozent der weltweiten Anfragen an Suchmaschinen. Sein Browser Chrome ist der weltweit dominierende Webbrowser, seine Videoplattform YouTube weltweit die zweitgrößte Suchmaschine und die größte Videoplattform. Die große Mehrheit der Smartphones weltweit nutzt Googles Betriebssystem Android.
Die Dominanz von Android ist besonders wichtig, weil Smartphones den PC als vorrangiges Mittel zur Nutzung des Internets verdrängt haben. Smartphones legen Informationen offen über das Online-Verhalten hinaus, zum Beispiel über Reisen und den Aufenthaltsort. Oft enthalten sie Tausende persönlicher E-Mails und Textnachrichten, Fotografien, Kontakte und Kalendereinträge.
Google und Facebook haben dazu beigetragen, die Welt zu vernetzen, und haben für Milliarden von Menschen entscheidende Dienste geleistet. Um sinnvoll an der heutigen Wirtschaft und Gesellschaft teilzuhaben und ihre Menschenrechte zu verwirklichen, sind die Menschen auf den Zugang zum Internet angewiesen – und auf die Werkzeuge, die Google und Facebook anbieten.
Trotz des realen Wertes der von ihnen angebotenen Dienstleistungen haben die Plattformen von Google und Facebook systemische Kosten. Das Geschäftsmodell der Unternehmen beruht auf Überwachung und zwingt die Menschen zu einem faustischen Pakt, bei dem sie ihre Menschenrechte online nur genießen können, wenn sie sich einem System unterwerfen, das auf Menschenrechtsverletzungen basiert. Diese bestehen in einem Angriff auf das Recht auf Privatsphäre in einem noch nie da gewesenen Ausmaß und einer Reihe von Folgewirkungen, die eine ernste Gefahr für andere Rechte darstellen, von der Meinungs- und Redefreiheit bis hin zur Gedankenfreiheit und dem Recht auf Nichtdiskriminierung.
Das ist nicht das Internet, für das sich jemand bewusst entscheidet. Am Anfang der Firmengeschichten von Google und Facebook vor zwanzig Jahren hatten beide radikal andere Geschäftsmodelle, die nicht von einer allgegenwärtigen Überwachung abhängig waren. Die allmähliche Aushöhlung der Privatsphäre durch Google und Facebook ist eine direkte Folge der dominierenden Marktmacht und der Kontrolle über den globalen „öffentlichen Platz“, die beide Unternehmen aufgebaut haben.
In Kapitel 1 „Das Überwachungsgeschäft“ wird in diesem Bericht beschrieben, wie das auf Überwachung basierende Geschäftsmodell funktioniert: Google und Facebook bieten gebührenfreie Dienstleistungen für Milliarden von Menschen an. Stattdessen bezahlen die Bürger dafür mit ihren vertraulichen persönlichen Daten. Diese Daten nutzen Google und Facebook, um Personen zu analysieren, sie nach bestimmten Merkmalen zu Gruppen zusammenzufassen und Vorhersagen über ihre Interessen, Eigenschaften und letztlich ihr Verhalten zu machen – in erster Linie, um mittels dieser Erkenntnisse Werbeeinnahmen zu erzielen.
Diese Überwachungsmaschinerie reicht weit über die Google-Suchleiste oder die Facebook-Plattform hinaus. Menschen werden im Internet, über die Apps auf ihren Telefonen und auch in der physischen Welt im Alltag verfolgt. Die beiden Unternehmen sammeln umfangreiche Daten darüber, was wir suchen, wohin wir gehen, mit wem wir sprechen, was wir sagen, was wir lesen. Die Fortschritte in der Datenverarbeitung ermöglichen es, daraus auf unsere Stimmungen, Ethnizitäten, sexuelle Orientierung, politische Meinungen und Verwundbarkeiten schließen. Einige dieser Kategorien – einschließlich der durch Menschenrechtsgesetze geschützten Merkmale – werden anderen zur Verfügung gestellt, um Internetnutzer mit Werbung und anderen Informationen gezielt anzusprechen.
In Kapitel 2 „Angriff auf die Privatsphäre“ wird dargestellt, wie diese allgegenwärtige Überwachung das Recht auf Privatsphäre im Kern zerstört. Sie stellt nicht nur einen Eingriff in das Privatleben von Milliarden von Menschen dar, der niemals notwendig oder verhältnismäßig sein kann, sondern die Unternehmen haben den Zugang zu ihren Diensten an die „Zustimmung“ zur Verarbeitung und Weitergabe persönlicher Daten für Marketing und Werbung gebunden, was dem Recht, zu entscheiden, wann und wie unsere persönlichen Daten an Dritte weitergegeben werden können, direkt entgegensteht. Schließlich beeinträchtigt die Verwendung algorithmischer Systeme zur Erstellung und Ableitung detaillierter Profile von Personen unsere Fähigkeit, unsere Identitäten und Rollen in der Privatsphäre selbst zu gestalten.
Die ursprünglichen Nutznießer dieser Erkenntnisse waren Werbetreibende. Als die Datenbestände aber erst einmal vorhanden waren, übten sie einen unwiderstehlichen Reiz auf Regierungen aus. Das hat einen einfachen Grund: Es wäre untragbar, wenn Regierungen solche Datenmengen, wie sie Facebook und Google von ihren Milliarden Nutzer ermitteln, selbst sammeln würden. Beide Unternehmen haben sich den Begierden der Staaten widersetzt, Informationen über ihre Nutzer zu erhalten. Allein die Möglichkeit, auf solche Daten zuzugreifen, ist jedoch ein starker Anreiz für Regierungen, die Überwachung durch Unternehmen nicht zu regulieren.
Die Verletzung der Privatsphäre ist das Kernstück des auf Überwachung beruhenden Geschäftsmodells von Facebook und Google. Eine lange Liste von Datenschutzskandalen macht das überdeutlich. Trotz der Zusicherungen der Unternehmen hinsichtlich ihres Engagements für den Datenschutz ist es schwierig, diese zahlreichen Datenschutzverletzungen nicht als Teil des normalen Geschäftsbetriebs, sondern als Fehler zu sehen.
In Kapitel 3 „Datenanalyse im Großen: Risiken für die Menschenrechte jenseits der Privatsphäre“ wird untersucht, wie die Plattformen von Google und Facebook nicht nur auf die Extraktion riesiger Mengen von persönlichen Daten setzen, sondern auch darauf, mit Hilfe ausgeklügelter algorithmischer Systeme weitere Erkenntnisse und Informationen aus diesen Daten zu gewinnen. Diese Systeme sind darauf ausgerichtet, die besten Ergebnisse im Sinne der Geschäftsinteressen der Unternehmen zu erzielen. Dazu zählen eine fein abgestimmte Auslieferung von Werbung und eine Beeinflussung des Verhaltens, um Besucher auf den Plattformen zu halten. In der Folge kehren die einmal zusammengeführten Daten einer Person in vielfältiger unvorhergesehener Weise zu dieser zurück.
Diese algorithmischen Systeme haben eine Reihe von Auswirkungen, die die Rechte des Einzelnen ernsthaft bedrohen, darunter die Meinungs- und Redefreiheit, die Gedankenfreiheit und das Recht auf Gleichheit und Nichtdiskriminierung. Die Größe und die Reichweite der Plattformen von Google und Facebook verstärken diese Risiken noch erheblich und können Menschenrechtsverletzungen für ganze Bevölkerungen ermöglichen. Darüber hinaus können Systeme, die sich auf komplexe Datenanalysen stützen, selbst für Informatiker undurchschaubar sein, ganz zu schweigen von den Milliarden von Menschen, deren Daten verarbeitet werden.
Der Cambridge-Analytica-Skandal, bei dem Daten aus 87 Millionen Facebook-Profilen gesammelt und dazu verwendet wurden, Menschen für politische Kampagnen zu manipulieren, hat der Welt die Augen geöffnet über die Fähigkeiten solcher Plattformen, Menschen in großem Maßstab zu beeinflussen – und die Gefahr, dass sie von anderen Akteuren missbraucht werden können. So schockierend der Vorfall war, er ist nur die Spitze des Eisbergs und entspringt genau dem Data-Mining- und Analysemodell, das den Aktivitäten von Facebook und Google innewohnt.
Schließlich zeigen wir in Kapitel 4 „Machtkonzentration blockiert die Rechenschaftspflicht“, wie riesige Datenbestände und leistungsstarke Rechenkapazitäten Google und Facebook zu zwei der wertvollsten und mächtigsten Unternehmen in der Welt gemacht haben. Die Marktkapitalisierung von Google entspricht mehr als dem doppelten Bruttoinlandsprodukt von Irland (wo beide Firmen ihren europäischen Hauptsitz haben), die von Facebook ist noch ein Drittel größer. Das Geschäftsmodell der Unternehmen hat zum Aufbau dieser Macht – finanzielle Schlagkraft, politischer Einfluss und die Fähigkeit, das digitale Erleben von Milliarden von Menschen zu gestalten – beigetragen und zu einer gewaltigen Wissensasymmetrie zwischen Unternehmen und Internetnutzern geführt. Mit den Worten der Wissenschaftlerin Shoshana Zuboff: „Sie wissen alles über uns, wir wissen fast nichts über sie“.
Diese Machtkonzentration geht Hand in Hand mit den menschenrechtlichen Auswirkungen des Geschäftsmodells und hat eine Lücke in der Rechenschaftspflicht geschaffen, in der es für Regierungen schwierig ist, die Unternehmen zur Rechenschaft zu ziehen, und für die Betroffenen, bei der Justiz Recht zu suchen.
Regierungen haben die Pflicht, Menschen vor Menschenrechtsverletzungen durch Unternehmen zu schützen. In den vergangenen zwei Jahrzehnten wurden Technologieunternehmen weitgehend der Selbstregulierung überlassen. Der ehemalige Vorstandsvorsitzende von Google, Eric Schmidt, beschrieb 2013 die Online-Welt als „den größten nicht regierten Raum der Welt“. Allerdings haben Behörden begonnen, die Machtkonzentration bei Google und Facebook offensiver anzugehen. Verstöße gegen die Wettbewerbsregeln werden untersucht, Geldstrafen wegen Verstößen gegen die Datenschutz-Grundverordnung der EU verhängt, und neue Regeln zur Besteuerung großer Technologie-Firmen eingeführt.
Unternehmen stehen in der Verantwortung, bei ihren Geschäftsaktivitäten die Menschenrechte zu achten. Dazu müssen sie die Auswirkungen auf die Menschenrechte mit gebotener Sorgfalt (Due Diligence) prüfen und ggf. für Abhilfe sorgen. Google und Facebook verfügen über Richtlinien und Prozesse, die sich mit den Auswirkungen auf das Recht auf Privatsphäre und Meinungsfreiheit befassen. Da ihr auf Überwachung basierendes Geschäftsmodell das Wesen des Rechts auf Privatsphäre untergräbt und eine ernsthafte Bedrohung für eine Reihe anderer Rechte darstellt, verfolgen die Unternehmen aber offensichtlich keinen ganzheitlichen Ansatz und stellen auch nicht in Frage, ob diese Geschäftsmodelle selbst mit ihrer Verantwortung für die Achtung der Menschenrechte vereinbar sind.
Amnesty International hat Google und Facebook die Gelegenheit gegeben, zu den in diesem Bericht dargestellten Erkenntnissen Stellung zu nehmen. Der Antwortbrief von Facebook befindet sich im Anhang. Amnesty International führte ein Gespräch mit leitenden Angestellten von Google, die anschließend Informationen über ihre Richtlinien und deren Umsetzung zur Verfügung stellten. Diese Informationen wurden im Bericht berücksichtigt.
Letztendlich ist es jetzt offensichtlich, dass die Ära der Selbstregulierung im Technologiesektor zu Ende geht. Es wird mehr staatliche Regulierung nötig sein, aber es ist wichtig, dass die Regierungen, in welcher Form auch immer die künftige Regulierung des Technologiesektors erfolgen wird, einen menschenrechtsorientierten Ansatz verfolgen. Kurzfristig ist es notwendig, die bestehende Regulierung stärker durchzusetzen. Die Regierungen müssen konkrete Schritte unternehmen, um den durch das auf Überwachung basierende Geschäftsmodell verursachten Schaden zu verringern. Sie müssen Politik entwickeln und umsetzen mit den Menschenrechten im Zentrum, um die allgegenwärtige private Überwachung zu verringern oder zu beseitigen und Reformen, auch strukturelle, durchführen, die ausreichen, um das Vertrauen in das Internet wiederherzustellen.