Carissa Véliz über Privatsphäre, Daten und digitale Ethik

Im Folgenden ist ein Vortrag zusammengefasst, den Prof. Véliz auf einer Kundenkonferenz von Pictet Wealth Management gehalten hat.

Privatsphäre, Daten und algorithmische Voreingenommenheit

Datenschutz ist Macht. Die Wiedererlangung der Privatsphäre in einer Welt voller Daten ist möglich, aber es kommt auf die richtige Ausgestaltung an. Die meisten digitalen Technologien, über die wir heute verfügen, sind grundsätzlich unethisch. Das grundlegende Geschäftsmodell des Internets dreht sich um die Erfassung und den Verkauf von Daten. Auch wenn wir unsere Daten gar nicht weitergeben wollen, geschieht dies oft ohne unsere Zustimmung. Das untergräbt das Konzept der Einwilligung an sich. Anstatt gezwungen zu sein, uns abzumelden, sollten wir uns erst anmelden müssen.

Die Gefahr von Verzerrungen und Voreingenommenheit hängt eng mit dem Datenschutz zusammen. Ohne Daten ist man weniger voreingenommen. Historische Daten, die häufig zum Trainieren von Algorithmen verwendet werden, sind von Natur aus mit Fehlern behaftet – sie sind von Sexismus, Rassismus und anderen Vorurteilen durchzogen. So ist es beispielsweise noch gar nicht so lange her, dass Frauen keine Bankkonten eröffnen durften, und diese historische Ungleichheit spiegelt sich in den Daten wider. Wenn wir das Datenschutzproblem lösen, können wir einen erheblichen Teil des Verzerrungsproblems lösen.

Gebaut, um uns zu verfolgen

Die Entscheidung, ob Daten erfasst werden sollen oder nicht, kann über Leben und Tod entscheiden. Während des Zweiten Weltkriegs marschierten die einfallenden Nazis direkt zu den örtlichen Einwohnermeldeämtern, um jüdische Bürgerinnen und Bürger zu identifizieren. In den Niederlanden kamen die obligatorischen Ausweise für Jüdinnen und Juden faktisch einem Todesurteil gleich, das sie ständig bei sich trugen. In Frankreich hingegen wurden Menschenleben gerettet, weil die Nationalsozialisten nach Daten suchten, die schlicht nicht erhoben worden waren. Diese historische Lektion verdeutlicht, welche Macht Datenschutz hat und wie wichtig es ist, die Datenerhebung zu begrenzen. Heute begehen wir genau dieselben Fehler, und das in einem noch nie dagewesenen Ausmass – das ist leichtsinnig.

Überall um uns herum wird das Analoge digital. Wenn Analoges digital wird, wird daraus Überwachung. Das nicht Nachverfolgbare wird nachverfolgbar, und das nicht Recherchierbare wird recherchierbar. Dieser Wandel ist nicht neutral. Kein Tool ist neutral. Alles ist auf einen Zweck ausgelegt. Die digitale Welt ist darauf ausgelegt, Daten zu sammeln, zu verfolgen und zu Geld zu machen. 

Deshalb ist es unerlässlich, wachsam zu sein. Es ist gar nicht so schwer, ein bisschen vorsichtig zu sein. Wir können Bargeld statt Karten verwenden, Kindern Bücher statt Tablets geben und Notizbücher statt die Cloud nutzen. Wir können unser WLAN und Bluetooth ausschalten, wenn wir das Haus verlassen, und vermeiden, uns ohne VPN mit öffentlichen WLAN-Netzen zu verbinden. Wir können unsere Handys bei Familientreffen weglegen, bei Diskussionen im Unterricht Kameras und Mikrofone ausschalten und uns bewusst dafür entscheiden, unsere Handys aus unseren intimsten Beziehungen herauszuhalten.

Hier geht es nicht um Nostalgie. Es geht um das Leben. Das Leben ist analog. Durch Bücher treten wir mit denen in einen Dialog, die vor uns gelebt haben. Schreiben ist nicht nur ein Produkt; es ist eine Art zu denken. Wenn wir uns auf Tools wie ChatGPT verlassen, laufen wir Gefahr, die Fähigkeit zum kritischen Denken zu verlieren. Wir laufen Gefahr, eine Generation von Untertanen statt von mündigen Bürgern heranzuziehen. Das ist besonders besorgniserregend für liberale Demokratien, die auf kritisch denkende und engagierte Bürgerinnen und Bürger angewiesen sind, um zu funktionieren.

Von der Regulierung von Technologien zur Regulierung ihrer Funktionen

Ethik und KI entwickeln sich zu schnell, als dass die Regulierungsbehörden Schritt halten könnten. Das gilt nicht nur für Technologie; die Regulierungsbehörden hinken Innovationen in vielen Branchen oft hinterher. Das bedeutet jedoch nicht, dass wir den Kopf in den Sand stecken sollten. Vielmehr sollten wir uns darauf konzentrieren, Funktionen zu regulieren und nicht bestimmte Technologien, denn Technologien verändern sich, ihre Funktionen bleiben jedoch häufig gleich.

Liberale Demokratien müssen sich zusammenschliessen, um neue globale Vereinbarungen zu treffen – vergleichbar mit einem modernen Bretton-Woods-Übereinkommen oder einer neuen Allgemeinen Erklärung der Menschenrechte. Wir brauchen auch Unternehmen, die mehr Verantwortung übernehmen und ihre Standards verbessern. Wettbewerb kann in diesem Bereich Innovationen vorantreiben. Verschlüsselte E-Mail-Dienste, VPN, Passwortschutz – das sind die Technologien, die wir brauchen, also Technologien, die uns und nicht jemand anderem dienen. Wenn ein Unternehmen die Messlatte höher legt, sind andere oft gezwungen nachzuziehen.

Effizienz, Komfort und der Preis der Freiheit

Effizienz ist wichtig, aber sie ist nicht das oberste Ziel. Diktaturen sind effizient, aber auf Kosten der Freiheit und Demokratie. Wir müssen uns fragen, ob wir bereit sind, für diesen Komfort einen solchen Preis zu zahlen. Es steht viel auf dem Spiel. Personenbezogene Daten werden für personalisierte Propaganda genutzt, was die Integrität von Wahlen und damit letztlich die Demokratie selbst gefährdet.

Der Reichtum des Lebens liegt im Analogen. Es hat etwas Magisches, sich in die Augen zu schauen und echte Gespräche von Angesicht zu Angesicht zu führen. Genau das macht Leben aus. Alles Virtuelle hängt vom Analogen ab. Das sollten wir nicht vergessen. Die Macht des Datenschutzes geht über den Einzelnen hinaus. Es geht um gemeinsame Verantwortung.

Als Bürger, Kunden und Investoren haben wir die Macht, bessere Technologien einzufordern. Wir können Alternativen zu den gängigen Optionen wählen. Wir können uns für Technologien einsetzen, bei denen Ethik im Vordergrund steht und die den Menschen, die sie verwenden, dienen, anstatt sie auszunutzen. Die Nachfrage bestimmt die Ausgestaltung. So wie Designklassiker wie die Eames-Stühle nicht zufällig entstanden sind, wird es auch keine ethische Technologie ohne bewusstes und gezieltes Eingreifen geben.

Es steht viel auf dem Spiel, doch die Lösungen liegen in unserer Hand. Indem wir kleine Veränderungen in unserem Alltag vornehmen, von Unternehmen höhere Standards einfordern und uns für strengere Vorschriften einsetzen, können wir unsere Privatsphäre zurückgewinnen und unsere Demokratie schützen. Die Zukunft ist nicht in Stein gemeisselt. Es liegt an uns, sie zu gestalten.