Lieber kein Smartphone!
Frau Hofstetter, sind wir noch zu retten?
(Yvonne Hofstetter lacht.) Schwierige Frage. Wenn Sie auf die digitalen Technologien anspielen, muss ich Ihnen leider sagen: Bei vielen Dingen ist der Zug abgefahren.
Warum?
Was können wir heute noch dagegen tun, dass wir überwacht werden? Und zwar nicht nur von NSA und BND, sondern auch von Google – heute Alphabet –, Facebook oder Amazon. Sprich, Unternehmen aus dem Ausland, die aus unseren Daten Profit schlagen. Zum Glück hat Europa mittlerweile begriffen, dass man sich langsam mal mit dem Thema beschäftigen sollte.
Sie haben deshalb ein Buch über „Big Data“ geschrieben.
Ja. Bei Big Data geht es in erster Linie um die riesigen Datenmengen, die wir seit Mitte der Nullerjahre produzieren. Genauer: Seit 2007, als Apple-Chef Steve Jobs das erste iPhone vorgestellt hat. Seither tragen wir eine Wanze mit uns herum. Wir verbinden uns mit so genannten sozialen Plattformen und veröffentlichen alle möglichen Daten über uns. Würden diese Daten nur in irgendwelchen Datensilos abgespeichert, ohne dass sie in Beziehung zueinander gesetzt werden, dann wäre die Debatte über Privatsphäre überflüssig.
Und was passiert stattdessen?
Hinter Big Data verbirgt sich mehr als nur das Erzeugen und Speichern großer Datenmengen. Es handelt sich um eine Technologie und auch eine Philosophie. Sie besteht aus drei Stufen. Erstens: Unsere Daten werden gesammelt. Zweitens: Die Behörden oder Unternehmen, die Zugriff auf diese Daten haben, machen sich ein so genanntes Lagebild von uns. Dafür nehmen sie die Rohdaten, führen sie zusammen und leiten daraus weitere, für sie relevante Informationen ab. Darüber erstellen sie dann Profile von uns. Auf Basis dieser Profile bekommen wir im einfachsten Fall personalisiert Werbung zugespielt. Aber jetzt kommt der dritte Schritt: die Kontrollstrategie. Das ist die Manipulationskomponente. Internetgiganten setzen ständig Anreize, um unser Verhalten zu steuern. Dieses Verhalten überwachen und analysieren sie immer wieder aufs Neue und justieren dann nach, damit sie uns noch besser beeinflussen können. Das klingt verschwörungstheoretisch, ist aber ein eigenes wissenschaftliches Feld: Die Kybernetik, also die Wissenschaft von Information und Kontrolle, begründet im letzten Jahrhundert von dem Mathematiker Norbert Wiener.
In der Kybernetik geht es auch um Künstliche Intelligenz.
Ja, Kybernetik kann am besten durch lernende Maschinen umgesetzt werden. Die Maschine versucht, auf Basis unserer Daten unser Verhalten zu verstehen. Als nächstes wird sie direkt auf uns losgelassen, um uns in Echtzeit zu beobachten und zu vergleichen, ob wir uns auch so verhalten, wie es die Analyse der Daten ergeben hat. Und dann wird die Maschine damit anfangen, entsprechende Impulse zu setzen, um unser Verhalten zu steuern.
In welchen Bereichen wird das heute denn schon eingesetzt?
Bei der Google-Suche. Aufgrund Ihrer Such-Historie, der Inhalte Ihrer E-Mails, die Sie über Google-Mail verschicken, Ihres Google-Plus-Accounts und der Gesundheitsdaten, die Sie womöglich auch noch über „Google Fit“ abgeben, erstellt Google ihr Profil. Dieses Profil wird über die Such-ergebnisse wieder zurückgekoppelt. Sie erhalten für ein und denselben Suchbegriff also ganz andere Suchergebnisse als ich und haben deshalb auch einen anderen Informationshorizont. Kontrollstrategien finden sich aber heute auch bei der Steuerung von Stahl- oder Aluminiumwerken. Oder bei der Verteilung von Strom.
Und zukünftig?
Zukünftig wird es zum Beispiel darum gehen, den Energieverbrauch eines Hauses intelligent zu steuern. Wir sprechen von Smart Homes. In so einem schlauen Zuhause misst ein intelligentes Heizungsthermostat die Luftfeuchtigkeit. Erhöhte Luftfeuchtigkeit bedeutet: Es ist jemand da, ich fahre die Heizung hoch. Gleichzeitig speichert das Thermostat ihr Heizverhalten ab. Drehen Sie die Heizung eher auf oder nicht? Aus solchen Daten wird Ihr Energieverbrauch profiliert, bis die Maschinen die Energiesteuerung des Hauses besser erledigen als der Mensch. Sie könnten ein Smart Home quasi komplett sich selbst überlassen. Jetzt denken Sie bestimmt: Toll! Aber der Preis dafür ist die totale Überwachung. Wo landen die Daten aus Ihrem Haushalt? Und wer wird sich dann noch alles ein Bild von Ihrem Energieverbrauch machen?
Wer denn zum Beispiel?
Etwa ein Vermieter, der das Wohnverhalten seines Mieters profiliert, um Beweise dafür zu sammeln, dass der Mieter zu wenig lüftet und heizt und deshalb Schimmel verursacht. Oder Energie-Konzerne, die Ihnen personalisierte Tarife anbieten. Viele halten das für praktisch, weil sie denken, dass sie so einen günstigeren Tarif bekommen. Aber so wird das nicht laufen! Haben sie sich mal Ihre Telefonkosten aus den vergangenen Jahren angeschaut? Sind die gesunken oder gestiegen? Das ist unser gedanklicher Fehler: Wir glauben, dass jemand unser Leben besser machen will. Aber wer uns solche Technologien anbietet, will nur eines optimieren: sein Bankkonto!
Die Smart Homes sind ja in erster Linie Frauenwelten.
Und wissen Sie, was in dem Zusammenhang interessant ist? Dass vor allem Männer verrückt auf diese Smart Homes sind. Die Männer wollen alles verkabeln, hochrüsten und auf das neueste technische Niveau bringen. Nicht die Frauen. Viele dieser Technologien und Geschäftsmodelle, die auf Überwachung basieren, kommen aus dem Silicon Valley. Dort sind wir mit einem neuen Typ Unternehmer konfrontiert: aggressiv agierende, zumeist weiße, junge Männer. Ich denke an den Uber-Chef Travis Kalanick oder Facebook-Chef Mark Zuckerberg. Frauen sind eher rar in dem Bereich. Das Silicon Valley hat einfach ein „Arschlochproblem“, wie der amerikanische Internetpionier Jaron Lanier richtig sagt. Und es hinkt in Sachen Gleichberechtigung Jahrzehnte hinterher.
Dennoch wird Ihr Buch erstaunlich oft von Frauen gekauft.
Ich glaube, dass Männer denken: Pah, das wissen wir doch alles schon! Frauen haben mehr Neugierde. Und vielleicht haben sie auch die Hoffnung, dass ihnen eine Frau das alles besser erklären kann als ein Mann mit Macho-Gehabe. Ich bekomme aber tatsächlich mehr Rückmeldung von Männern. Das ist eine Erfahrung, die ich auch in meiner Branche gemacht habe. In meinem Unternehmen bin ich seit zehn Jahren die einzige Frau unter Männern.
Wieso?
Das frage ich mich auch. 52 Prozent der Studierenden in der Mathematik sind Frauen. Nur: Wo bleiben die Frauen nach Ende ihres Studiums? Der deutlich größere Anteil der erfolgreichen Startups in Europa wird von Männern gegründet. Und die wenigen Startups von Frauen beschäftigen sich mit typisch weiblichen Themen. Aber Hochtechnologien bauen heißt nicht, Büstenhalter übers Internet zu verkaufen. Oder Schmuck mit Sensoren zu basteln.
Sie selber nutzen viele der technologischen Errungenschaften aus Prinzip nicht, ganz wie die Jungs im Silicon Valley. Sie haben noch nicht einmal ein Smartphone.
Ja, und ich fahre auch ein altes Auto. Das kriegt alles von mir! Hauptsache, es fährt noch sehr lange! Ich möchte nicht in einer dieser Datenschleudern auf Rädern sitzen. Glauben Sie mir, in 20, 30 Jahren wird es einen riesigen Markt für Oldtimer geben, genau aus dem Grund. Natürlich hat meine Abstinenz ihren Preis: Ich kommuniziere nicht mit Freunden über Facebook oder E-Mail. Wer etwas mit mir besprechen möchte, muss mich persönlich treffen. Wichtige Dokumente werden bei uns nur noch per Post verschickt. Wir sind komplett auf die analoge Welt zurückgefallen. Weil wir den Missbrauch in der digitalen Welt genau kennen.
Sie halten diese Entwicklung für eine Bedrohung unserer Grundrechte.
Seit dem Mikrozensusurteil 1969 ist es ständige Rechtsprechung des Bundesverfassungsgerichtes, dass die datenmäßige Erfassung eines Menschen, und sei es auch nur zu statistischen Zwecken, gegen die Menschenwürde verstößt. Und damit auch gegen Artikel 1 unseres Grundgesetzes. Das kommt aus unserer Rechts- und Philosophiegeschichte. In Europa unterscheiden wir zwischen dem Menschen, dem Subjekt – und den Objekten des Lebens und Wirtschaftens. Subjekte sind Träger von Rechten und Pflichten. Sie können Entscheidungen treffen, sie haben ein Moralverständnis, sie können zwischen Gut und Böse unterscheiden. Objekte können das alles nicht. Ein Haus oder ein Auto hat keine Freiheitsrechte und auch kein Recht auf Privatsphäre. Im Big Data-Umfeld passiert nun etwas, was diesem Dualismus völlig entgegengesetzt ist. Die Kybernetik geht davon aus, dass der Mensch die ultimative Maschine ist. Eine Maschine ist aber ein Objekt, kein Subjekt. Den Menschen wie eine Maschine zu behandeln, ist in Deutschland verfassungswidrig. Wir merken intuitiv: Da läuft etwas falsch. Aber wir lassen uns trotzdem darauf ein. Internetfirmen können nämlich nur deshalb gegen unsere Verfassung verstoßen, weil wir ihnen dazu unsere Einwilligung erteilen. Mit dem kleinen Häkchen bei ‚Ich stimme den Nutzungsbedingungen zu‘.
Der Europäische Gerichtshof hat die Datenschutzvereinbarung zwischen der EU und den USA, das so genannte Safe-Harbor-Abkommen, für ungültig erklärt. Was heißt das?
Amerikanische Unternehmen, die unsere Daten in Amerika speichern und sich dabei im Rahmen des amerikanischen Rechts bewegen mögen, verstoßen gegen die Grund- und Freiheitsrechte der Europäer. In der Konsequenz ist das Urteil also wie eine Handelsschranke für die USA. Wenn sie digitale Produkte auf europäischem Boden anbieten wollen, müssen sie sich an hiesige Gesetze halten. Bisher sind unsere Daten in USA etwa so sicher wie in China.
Sie sind mit Teramark Technologies selbst Unternehmerin in dem Bereich.
Ja, ich baue seit 17 Jahren Künstliche Intelligenzen. Ich bin also nicht nur eine der wenigen Frauen, sondern einer der ganz wenigen Menschen in Deutschland, die solche Dinge überhaupt im operativen Einsatz sehen und weiß, wie man sie trainiert. Allerdings verzichten wir auf die Erhebung und Verarbeitung von Humandaten.
Was tun Ihre Systeme stattdessen?
Wir bauen Künstliche Intelligenzen zur Steuerung von Objekten. Anlagensteuerung zum Beispiel. Oder Maschinen, die auf dem Finanzmarkt die Wechselkurs-Risiken analysieren und managen. Das nutzen zum Beispiel Banken oder große internationale Unternehmen, die mit mehreren Währungen gleichzeitig arbeiten. Da sagt der Algorithmus: Jetzt wäre ein guter Zeitpunkt, um Dollar umzutauschen.
Bei Ihnen zu Hause putzen Roboter. Haben Sie da keine Bedenken?
Nein, denn die sind nicht vernetzt. Das einzige, was sie über ihre Sensoren sehen ist: Da kommt ein Treppenabsatz. Oder: Ich fahre gerade von Teppich auf Parkett. Meine Roboter haben die Intelligenz einer Waschmaschine.
Klingt praktisch.
Ich liebe sie! Die nehmen mir die stupide Hausarbeit ab und sind absolut zuverlässig. Als ich mir meinen Staubsaugerroboter gekauft habe, gab es so einige abfällige Bemerkungen von Männern, Stil: Das funktioniert doch eh nicht! So ein Blödsinn, der Hersteller arbeitet für das Pentagon. Der gleiche Typ Roboter spürt für die amerikanische Armee Minen auf. Glauben Sie mir: Da haben Sie zu Hause einen Boden, von dem sie essen können!
Also doch mehr Chancen als Risiken?
Jede technologische Entwicklung bringt Verbesserungen. Deshalb stellen sich ja auch so viele hin und sagen: Hofstetter, du erzählst Unsinn! Aber ich warne ja nicht aus einem Kulturpessimismus heraus. Ich habe den Ingenieurinnen-Hut auf. Und eine Ingenieurin muss eine Risiko- und Gefährdungsanalyse vornehmen, wenn sie ein neues System entwickelt. Die Maschinen werden immer besser, und damit auch immer besser darin, uns zu ersetzen.
Die apokalyptische Vorstellung, dass Roboter den Menschen ersetzen und die Macht übernehmen, ist sehr alt …
… aber heute haben Technologen eine andere Definition von Künstlicher Intelligenz. Im letzten Jahrhundert hieß es noch: Künstliche Intelligenz muss alles können, was der Mensch kann. Ein damals unerreichbares Ziel. In den 1940er und 1950er Jahren bezog sich Künstliche Intelligenz darauf, dass Maschinen unsere Sprache lernen. Heute haben wir den Begriff in der Technologieentwicklung auf Lern- und Entscheidungsfähigkeit reduziert. Stellen Sie sich einfach eine Killerdrohne vor, die aufmunitioniert ist und autonom fliegen kann. Diese Killerdrohne fliegt in ein Zielgebiet, identifiziert Personen, rechnet durch, ob das Ziele sind, stellt eine Zielliste auf und neutralisiert diese Ziele. Vor diesem Intelligenzniveau muss ich einfach Angst haben – auch wenn es bei weitem nicht an die allgemeine menschliche Intelligenz heranreicht.
Wieso geht die Entwicklung so rasant?
Weil es in den letzten zehn Jahren eine enormen Sprung in der Hardware-Entwicklung gab. Künstliche Intelligenz ist extrem rechenintensiv. 60–80000 Variablen pro mathematischem Gleichungssystem sind keine Seltenheit. In der Schule rechnen Sie mit ein bis drei Unbekannten. Für eine so immense Rechenleistung brauchen wir also sehr schnelle Rechner, und die sind heute erschwinglicher geworden. Es gibt aber noch einen anderen Grund für den Sprung: Der Großkonzern Alphabet, also Google, hat Millionen von Dollar in Künstliche Intelligenz investiert. Um die Dimensionen klar zu machen: Man geht davon aus, dass in den letzten zwei Jahren so viel investiert wurde wie zusammengerechnet in allen Jahrzehnten zuvor. Google hat drei Unternehmen gekauft, die mit maschinellen Lernverfahren arbeiten. Und ‚Boston Dynamics‘, die Kampfroboter entwickelt haben. Da muss man natürlich darüber nachdenken, wie viel Macht Staaten verlieren, die nicht in diese Technologien investieren. Und welchen Status die Unternehmen erlangen, die es tun.
Sie haben eine Charta für digitale Grundrechte entworfen. Wie sieht die aus?
Wir brauchen dringend eine angemessene Gesetzgebung für die Nutzung von Humandaten. Es gibt bereits erste Ansätze wie die Europäische Datenschutzgrundverordnung, die besagt, dass Menschen Kontrolle über ihre Daten haben müssen. Und Löschung muss möglich sein, das Recht auf Vergessen also. Ebenso wichtig ist es, dass Technologen endlich ihr Gewissen benutzen. Das klingt vielleicht mega-konservativ. Denn in der Forschung gilt: Wir wollen frei sein im Denken und keinen Regeln folgen. Aber wir sehen ja, wo das hingeführt hat.;
Das Gespräch führte Alexandra Eul für das Dossier "World Wide Women" in der EMMA November/Dezember 2015. Gerade ist Yvonne Hofstetters neues Buch erschienen: "Das Ende der Demokratie - Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt" (C. Bertelsmann).