Life Engineering Arbeitsbericht 2021/01
Hubert Österle 2021-02-16
Zusammenfassung
Medien und Politik repräsentieren die Befragten mangelhaft.
Philosophen, Ethiker, Psychologen, Soziologen, Datenschützer, Juristen, Informatiker, Ökonomen und Investoren neigen zu eindimensionalen Bildern der Digitalisierung. Um Aufmerksamkeit zu generieren, müssen sie emotionale, hauptsächlich dystopische Aussagen in den Vordergrund stellen. Die Erwartungen der Befragten sind durchweg viel positiver als die meisten Medienbeiträge.
Die Befragten vertrauen den Maschinen bei gut operationalisierbaren Aufgaben.
Für einfach operationalisierbare Aufgaben, die bereits heute Maschinen übertragen werden, verlassen sich die Befragten auf die Maschinen. Wenn es dagegen um die Gefühle des Menschen, die seine Lebensqualität ausmachen, oder die Beurteilung des Menschen insgesamt (z.B. Partnerwahl) geht, wollen sie selbst das Heft in der Hand behalten. Dementsprechend lehnen die Antwortenden Entscheidungen einer Maschine in manchen Bereichen ab, selbst wenn diese besser als sie selbst entscheiden kann. Entweder glauben sie also nicht, dass die Maschine tatsächlich besser entscheidet, oder sie wollen sich emotional gegen die Vernunft entscheiden.
Die Befragten wollen die Maschinen nicht zur Steuerung der Gesellschaft nutzen.
50% der Befragten befürworten, dass die Gesellschaft das Social Scoring wenigstens in Teilbereichen zum Wohle der Bürger nutzen soll. Wenn das Scoring aber beispielsweise auf die Beurteilung der Kreditwürdigkeit, des Fahrverhaltens sowie der Eignung als Mieter oder Mitarbeiter konkretisiert wird, sind nur noch 17% dafür. Die tatsächliche Internetnutzung (Latzer, Büchi, & Festic, 2019) zeigt wiederum, dass die überwiegende Mehrheit der Menschen sich von Navigationssystemen durch fremde Städte führen lässt, die Vorselektion der Nachrichtenkanäle akzeptiert und Gesundheitsinformationen abruft. Diese Inkonsistenzen zeigen, dass die Befragten (wie der Befrager) noch keine abschliessende Bewertung der impliziten und expliziten Steuerung der Menschen durch die digitalen Dienste hat.
Die Befragten wägen zwischen Datenschutz und Datennutz ab.
Wie die tatsächliche Nutzung der digitalen Dienste zeigt (Latzer et al., 2019), verzichtet eine eher bescheidene Minderheit wegen Datenschutzbedenken auf einzelne Apps. Der weitaus grösste Teil der Befragten hat die Allgemeinen Geschäftsbedingungen der digitalen Dienste nie oder nur einmal gelesen, wertet also seine Bequemlichkeit höher als den Datenschutz. Für eine wirksame Corona-App würden fast alle Befragten auf einen Datenschutz, wie ihn die Politik und die Medien gefordert haben, verzichten.
Die Befragten haben wenig Angst vor der Beeinflussung durch die digitalen Dienste.
Die Befragten sind von ihrer Fähigkeit zu autonomem Handeln sehr überzeugt. Sie begrüssen maschinelle Hilfe für Kaufentscheidungen und Nachrichtenkonsum, haben also keine Angst, dass sie damit manipuliert werden, zum Konsumerismus verführt werden und in Filterblasen landen. Gleichzeitig sehen 39% der Befragten die Manipulation durch maschinelle Intelligenz als eine der drei grössten Gefahren der Menschheit. Dieser Widerspruch kann eine Folge der Kürze und Undifferenziertheit der Befragung sein, kann aber auch auf ein mangelndes Bewusstsein für die Folgen der Digitalisierung hinweisen.
Die Befragten sehen die Machtverschiebungen.
Nur 24% der Befragten glauben, dass sich die EU in den nächsten fünf Jahren in den wichtigen Themen gegen die Internetgiganten durchsetzen kann. 51% der Befragten nehmen an, dass im Jahre 2030 nicht Volkswagen, sondern Google das Navigationssystem eines VW-Fahrzeuges liefern wird. Die Einschätzung der Interessen und der Macht ist wohl der Grund dafür, dass sich 73% der Befragten wünschen, dass der Markt unter Kontrolle des Staates über die Funktionen der digitalen Dienste entscheiden soll.
Die Befragten glauben nicht, dass die Maschinen in diesem Jahrhundert auf allen Gebieten intelligenter als die Menschen werden.
95% von 352 AI-Forschern, die an zwei wichtigen AI-Konferenzen im Jahre 2015 publizierten und an einer Befragung teilgenommen haben, sind überzeugt, dass Maschinen im Jahre 2050 mit einer Wahrscheinlichkeit von 50% jede Aufgabe besser als Menschen erledigen können (Grace, Salvatier, Dafoe, Zhang, & Evans, 2018). Dagegen glauben 52% der Befragten, dass Maschinen nie in allen Bereichen intelligenter als Menschen sein werden. Immerhin glauben 25% der Befragten, dass dies doch bereits im Jahre 2070 der Fall sein wird.
In einem gewissen Widerspruch dazu bezeichnen 73% der Befragten den Menschen als Zwischenstufe und nicht als Endergebnis der Evolution, eine Aussage, die viele unserer Grundannahmen des Lebens infragestellt.
Die Ergebnisse im Einzelnen
Maschinelle Intelligenz für Gesundheit, Beruf, Mobilität, Einkauf, Finanzen, Unterhaltung, Wohnen und Administration verändert unsere Gesellschaft, unsere Wirtschaft und unser individuelles Leben grundlegend. Das Buch „Life Engineering“ (Österle, 2020) ist ein Versuch, die Entwicklung zum Wohle der Menschen zu beeinflussen. Gespräche zu diesem Thema zeigen immer wieder, dass sehr unterschiedliche Sichten existieren und vor allem dass diese z.T. erheblich von den Diskussionen in den Medien abweichen. Eine kurze Online-Befragung sollte daher ein breiteres Meinungsbild erfassen. Vielen Dank allen, die den Fragebogen ausgefüllt haben.
Die gewählte Stichprobe ist nicht repräsentativ für die gesamte Bevölkerung. Ich habe 233 Personen angeschrieben, mit denen ich mich in den letzten drei Jahren zu diesem Thema unterhalten habe oder bei denen ich Interesse am Thema vermute. Davon haben ca. 150 an der Befragung teilgenommen. Die restlichen ca. 90 Teilnehmer stammen aus Hinweisen in Vorlesungen sowie aus Weiterleitungen der Einladungs-eMails.
Die Befragung ist explorativ und musste im Sinne des Aufwands für Befragte und Befrager möglichst kurz und einfach gehalten werden. Mögen die Ergebnisse, die hier berichtet werden, repräsentativere und differenziertere Erhebungen (wie z.B. acatech & Körber-Stiftung, 2019) und Auseinandersetzungen mit dem Thema auslösen.
Nutzen aus digitalen Diensten
Viele Medien malen ein eher dystopisches Bild der digitalisierten Welt, ja den Untergang des Humanismus.
Es überrascht, dass 74% der Befragten von der maschinellen Intelligenz grundsätzlich eine Verbesserung ihres Lebens erwarten. Diese Beurteilung der Wirkung der maschinellen Intelligenz auf das persönliche Leben variiert wenig nach dem Profil der Befragten, etwa den Denkrichtungen Unternehmertum, Naturwissenschaften und Geisteswissenschaften, dürfte sich aber wohl stark nach Ländern unterscheiden, wie Falk und Riemensperger berichten: „Die Narrative zum Nutzen von Technologie variieren stark zwischen unterschiedlichen Ländern. So befragte ein World Value Survey rund 71.000 Bürgerinnen und Bürger nach ihrer Zustimmung zu der Aussage: „Wissenschaft und Technik machen unser Leben gesünder, leichter und angenehmer.“ 2020 stimmten nur 18 Prozent der Deutschen vollständig zu, 20.8 Prozent unter den Amerikanern und 37,2 Prozent unter der Russen. In China jedoch waren es 41,8 Prozent der Befragten.“ (Falk & Riemensperger, 2021)
Die Frage, ob jemand lieber papierene oder elektronische Medien liest, sollte ein Indiz für die tatsächliche Nutzung der digitalen Dienste und den Einfluss auf die Beurteilung der Digitalisierung liefern.
Da der überwiegende Teil der Befragten beide Medienformen, also Druckerzeugnisse und elektronische Kanäle (vor allem News und Blogs) nutzt, lässt sich kein Zusammenhang mit der oben formulierten positiven Sicht auf die Digitalisierung ableiten.
Die nächsten beiden Fragen sollten zeigen, welcher Art von digitalen Diensten die Befragten vertrauen.
65% der Befragten begrüssen Empfehlungen zur Stressvermeidung von ihrem elektronischen Terminkalender, während sich 78% der Befragten eher nicht oder nicht an Empfehlungen bei der Partnerwahl halten würden, selbst wenn die Maschine den Lebenspartner besser als sie selbst auswählen könnte. Sagen die Befragten damit, dass sie lieber ihrem Gefühl als der Vernunft folgen? Bei aller Problematik dieser verkürzten Fragestellung wird deutlich, dass die Vorsicht vor digitalen Diensten in wichtigeren und emotionaleren Bereichen grösser als bei Alltagsentscheidungen ist. Man könnte allerdings umgekehrt formulieren, dass es erstaunlich ist, dass sich 21% der Befragten eher an die Empfehlung eines Lebenspartners durch eine Maschine halten würden.
Empfänglichkeit für Manipulation
Die nächsten Fragen sollen einen Hinweis liefern, ob sich die Antwortenden der Manipulation auf Basis ihrer Personendaten bewusst sind und diese akzeptieren.
Obwohl bekannt ist, dass personalisierte Werbung und Kaufempfehlungen das Ziel haben, Bedürfnisse der Konsumenten gezielt anzusprechen oder zu schaffen und damit Umsatz und Deckungsbeitrag des Anbieters zu erhöhen, wünschen sich 51% der Befragten Empfehlungen zum Kauf von Produkten. Und obwohl die Folgen von Filterblasen gerade am Beispiel der überall beklagten Polarisierung und Radikalisierung öffentlich intensiv diskutiert werden, wollen sogar 60% eine Auswahl der Nachrichten und Videos durch digitale Dienste. Sie müssen davon ausgehen, dass das Wissen über ihre Präferenzen die Selektion der Nachrichten beeinflusst. Es ist jedoch anzumerken, dass es de facto keine Nachrichtenversorgung ohne Vorauswahl gibt, ja dass wir diese Filter durch Tageszeitungen, TV-Kanäle und Social Media Gruppen benötigen, um uns im globalen Nachrichtenfluss zurechtzufinden. Wir leben zwar seit jeher mit dieser Manipulation, auch wenn wir sie gelegentlich wahrnehmen und beklagen, doch die digitalen Personendaten verstärken die Möglichkeiten zur Beeinflussung massiv.
Während die Nutzung der persönlichen Daten für die Produktempfehlung und die Nachrichtenauswahl erstaunlich breit begrüsst wird, wehren sich 82% der Befragten gegen eine Nutzung der Personendaten zur Beurteilung der Kreditwürdigkeit, zum Fahrverhalten, zur Auswahl als Mieter und als Mitarbeiter. Gleichzeitig wissen die meisten der Befragten vermutlich, dass diese Formen der Bewertung (des Scorings) auch bei uns gang und gäbe sind.
Social Scoring kann als Zusammenfassung aller derartigen Bewertungen von Individuen gesehen werden. 50% der Befragten stimmen der Nutzung ihrer Daten für ein Social Scoring wenigstens in Teilbereichen des Lebens zu. Überraschender Weise lehnen die Jungen (18-29 Jahre) Social Scoring am deutlichsten ab, während 65% der über 70-jährigen Social Scoring wenigstens in Teilbereichen des Lebens akzeptieren.
Datenschutz
Die Nutzung der persönlichen Daten zur Beeinflussung der Menschen ist nicht nur weit fortgeschritten, sondern auch unabhängig vom politischen System erstaunlich breit akzeptiert. Man muss diese Haltung wohl als Abfinden mit der Realität interpretieren. Unverständlich ist dann allerdings die geradezu hysterische Diskussion des Datenschutzes in den Medien und in der Politik. In einer Studie des TÜV Rheinland zus. mit dem Institut für Customer Insight der Universität St. Gallen haben 500 online Befragte die Wichtigkeit des Datenschutzes auf einer Skala von 1 bis 7 (sehr wichtig) mit 6.17 bewertet (Rheinland, 2021). Wird Datenschutz dagegen, wie hier geschehen, dem Datennutz gegenübergestellt, fällt die Beurteilung weit differenzierter aus.
Könnte durch einen weitgehenden Verzicht auf den Datenschutz eine Corona-App entwickelt werden, die einen weiteren Lock-down vermeiden könnte, würden 65% der Befragten zustimmen. Bei einem geringfügigen Verzicht auf den Datenschutz wären das sogar 90% der Befragten.
Die Bedeutung, die die Befragten dem Datenschutz zumessen, zeigt sich auch im Aufwand, den sie selbst dafür treiben.
Nur 27% haben die Allgemeinen Geschäftsbedingungen von Diensten schon mehrmals, 71% dagegen nur einmal oder gar nie gelesen. Doch haben die Antwortenden, welche die Allgemeinen Geschäftsbedingungen mindestens einmal gelesen haben, diese wirklich in aller Tiefe studiert und sich die Konsequenzen überlegt? Ein realistisches Verständnis der Datenschutz- und Nutzungsbedingungen beispielsweise von Google (Google, 2021), dem grössten Datensammler, erfordert selbst für einen Experten weit mehr als einen halben Tag Arbeit. Wird dem Nutzer beispielsweise bewusst, dass seine Zustimmung zur Verwendung von Navigations- und Kontaktdaten die Protokollierung von persönlichen Treffen über Jahre ermöglicht.
Ein Teil der Befragten nutzt einzelne digitale Dienste wegen Datenschutzbedenken nicht mehr. Wenn man dagegenstellt, dass 98% der Schweizer eMail, 91% Instant Messaging und 64% soziale Netzwerke nutzen, dass 87% Produktinformationen abrufen und 97% Suchmaschinen verwenden (Latzer et al., 2019), dann relativiert sich deren Sorge um den Datenschutz. Stellt man diesem allem Anschein nach weit verbreiteten Internetverhalten das mediale und politische Geschrei um die Datenpreisgabe für eine wirkungsvolle Corona-App gegenüber, so ist eine beachtliche Kluft zwischen einzelnen Wissenschaftlern, der Politik und den Medien einerseits und der Bevölkerung andererseits zu konstatieren. Möglicherweise wird sich der Datenschutz künftig auf einen engen Kern der persönlichen Daten (Gesundheit etc.) beschränken, gleichzeitig aber die Nutzung der Daten sorgfältiger überwacht.
Einzelne Befragte nennen weitere Dienste, die sie aus Datenschutzgründen nicht mehr verwenden: Instagram, Alexa, Chrome Browser, ICQ, Spiegel, WeChat, Snapchat, Clubhouse, Telegram, gmx.
Machtverschiebung
Die Internetgiganten (Facebook, Amazon, Microsoft, Apple, Netflix, Alphabet sowie Baidu, Alibaba und Tencent) haben in Wirtschaft und Gesellschaft eine noch nie dagewesene Macht von Unternehmen aufgebaut, die zum Teil als Ãœberwachungskapitalismus (Shoshana Zuboff) und zum Teil als Verlust des freien Marktes (Thomas Philippon) beklagt werden. Einzelne Staaten tun sich nach Meinung der Befragten schwer, ihre Interessen gegen diese dominanten Unternehmen durchzusetzen. Nur 24% glauben daran, dass sich die EU in naher Zukunft in wichtigen Themen gegen die Internetgiganten durchsetzen kann.
Nur 13% der Befragten glauben, dass der weltgrösste Autokonzern im Jahre 2030 noch ein eigenes NavigaÂtionsÂsystem betreiben wird, 51% nehmen an, dass Volkswagen die Navigation von Google übernehmen wird. Die offenen Antworten (10%) verweisen allgemein auf die Automobilzulieferer und auf heute noch unbekannte Start-ups.
Die Polarisierung der politischen Debatte im Internet und die dadurch geschürte Radikalisierung, die in den letzten Monaten in mehreren westlichen Ländern zu beobachten ist, hat die Debatte um die Regulierung der Meinungsäusserung angeheizt. 54% der Antwortenden sieht diese Beschneidung der Meinungsfreiheit als Aufgabe der Internetkonzerne und nur 29% als Aufgabe der demokratisch gewählten Regierungen an.
73% der Antwortenden wollen den Markt unter Kontrolle des Staates entscheiden lassen, was die digitalen Dienste tun, vertrauen also offensichtlich auf den Markt, wollen aber das letzte Wort dem Staat überlassen.
Vor diesem Hintergrund erstaunt die Antwort auf die Frage nach den grössten Gefahren für die Menschheit.
Nicht die Manipulation durch die maschinelle Intelligenz steht im Vordergrund, sondern die Umweltzerstörung. Pandemien, der Verlust der Demokratie und ein Finanzkollaps werden als gleich grosse Gefahr für die Menschen gesehen wie die Manipulation durch maschinelle Intelligenz. In den offenen Antworten dominierten die Themen Ungleichheit der Gesellschaft (Social Divide, Polarisierung, Radikalisierung, Desozialisierung) und kriminelle Attacken auf das Internet. Weitere Themen sind Bioengineering, psychische Erkrankungen, Verflachung durch Konsumsucht und Verdummung durch soziale Medien und Filterblasen.
Glaube an die maschinelle Intelligenz
Nach den bisher behandelten Antworten scheinen die Befragten ein hohes Vertrauen in die Leistungsfähigkeit der maschinellen Intelligenz zu haben. Dieser Glaube hat allerdings Grenzen, wenn es in emotional aufgeladene Bereiche geht. So glauben 51% der Antwortenden, dass die maschinelle Intelligenz die Lebensqualität der Menschen eher nicht messen kann, und widersprechen damit den Neurowissenschaften und der Wissenschaft der Künstlichen Intelligenz (Grace et al., 2018) (Davidson & Schuyler, 2015). Unternehmerisch Denkende glauben eher als die anderen Befragten, dass maschinelle Intelligenz die Lebensqualität messen kann.
Konsequenter Weise sind die Befragten davon überzeugt, auch in 20 Jahren besser als jede maschinelle Intelligenz zu wissen, was für sie gut ist.
Die Antwortenden erwarten nicht, dass Maschinen in der Zukunft in allen Bereichen intelligenter als der Mensch werden. Dies steht, wenn auch nicht sehr überraschend, in deutlichem Widerspruch zu den Vorhersagen der Fachvertreter auf dem Gebiet der künstlichen Intelligenz (Grace et al., 2018).
Allerdings meinen 73% der Antwortenden, dass der Mensch eine Zwischenstufe und nicht das Endergebnis der Evolution / Schöpfung ist. Selbst 69% der Antwortenden, die sich als religiös bezeichnen, betrachten den Menschen als Zwischenstufe der Evolution. Es wäre interessant zu vertiefen, welche Konsequenzen die Antwortenden aus dieser Annahme ziehen.
Stichprobenprofil
Bereits zu Beginn wurde darauf hingewiesen, dass diese Befragung nicht auf einer repräsentativen Stichprobe für die gesamte Bevölkerung basiert. Das akademische und unternehmerische Umfeld, in dem eine gewisse Kompetenz für die Fragen vermutet werden kann, hat die Auswahl der Befragungsteilnehmer bestimmt. Um die Ergebnisse etwas einordnen zu können, sind hier noch die Angaben zum Persönlichkeitsprofil der 237 Befragten ausgewiesen.
Stellungnahmen zur Befragung
Die Antworten auf die offene Frage „Weitere Anmerkungen zur maschinellen Intelligenz und zur Lebensqualität“ lassen sich grob wie folgt zusammenfassen:
Die Befragung sollte die positiven Erwartungen konkreter erfassen. Beispiele dafür sind die Erleichterung des Lebens im Alter, Haushaltsroboter, Besinnung auf das Wesentliche.
Die Förderung der Persönlichkeitsreifung soll den Umgang mit den digitalen Services verbessern.
Die Entscheidungen (Autonomie) müssen beim Menschen bleiben, die digitalen Dienste sollen ihn lediglich unterstützen. Maschinen besitzen keine emotionale Intelligenz.
Die Konsequenzen einer maschinellen Intelligenz, die dem Menschen überlegen ist, sollten stärker untersucht werden.
Mehrere Antwortende wollen mehr Klarheit zum Begriff Intelligenz und insbes. maschinelle Intelligenz. Manchen Befragten sind die Antwortmöglichkeiten zu eingeschränkt und zu undifferenziert.
Monetäre Eingriffe in den Markt wie etwa die Besteuerung von Online-Shops sind kein unwichtiges Thema.
Die Regulierung muss schneller und transparenter werden, um die totale Macht der Internetgiganten zu verhindern. Bereiche wie die Gesundheit und die Bildung werden überreguliert.
Die einzige Chance gegen die Ãœbermacht der Internetgiganten sind dezentrale offene Systeme unter Kontrolle der Nutzer.
„Einige der Fragen sind suggestiv, wie z.B. ob der Mensch Ziel der Schöpfung ist. Das ist eine Frage, die ich nicht beantworten kann und will.“
In einer Welt mit Superintelligenz könnten die Menschen eine Rolle spielen, wie sie Affen in unserer heutigen Welt haben.
Anstatt auf diese Stellungnahmen zur Befragung bzw. zum Umgang mit maschineller Intelligenz hier zu antworten, erlaube ich mir, auf das Buch „Life Engineering. Lebensqualität durch Maschinelle Intelligenz?“ (Österle, 2020) zu verweisen, in dem die meisten der Anmerkungen der Befragten ausführlich behandelt werden. Vielleicht lassen sich so einige der dort skizzierten Konzepte verfeinern oder korrigieren.
Nachwort
Diese Befragung hatte das Ziel, zum Nachdenken anzuregen, die Diskussion zur positiven und negativen Nutzung der maschinellen Intelligenz zu fördern und die Diskrepanz zwischen Medien und Lesern aufzuzeigen. Die Befragten sind, das sei nochmal betont, nicht repräsentativ für die Bevölkerung, repräsentieren aber Menschen mit vielfältiger und hoher Bildung und setzen sich mit der Digitalisierung immer wieder auseinander.
Die Befragung ist explorativ. Umso wichtiger sind Stellungnahmen zu den Fragen und zur Interpretation der Ergebnisse. Die Leser sind eingeladen, ihre Sicht dazu
oder
per eMail an hubert.oesterle@unisg.ch
einzubringen. Eine anonymisierte Ergebnistabelle für weitere Auswertungen wird verfügbar gemacht.
Literatur
acatech, & Körber-Stiftung. (2019). Einstellungen zur Digitalisierung im europäischen Vergleich.
Davidson, R. J. ., & Schuyler, B. S. (2015). Neuroscience of Happiness. In J. F. Helliwell, R. Layard, & J. Sachs (Eds.), World Happiness Report 2015 (pp. 88–105).
Falk, S., & Riemensperger, F. (2021). Von „Made in“ zu „Made in und operated by“. Der digitale Betrieb der physischen Welt ermöglicht neue Werteverprechen für die Menschen (AT). Informatik-Spektrum.
Google. (2021). Datenschutzerklärung und Nutzungsbedingungen. Retrieved February 9, 2021, from https://policies.google.com/?hl=de
Grace, K., Salvatier, J., Dafoe, A., Zhang, B., & Evans, O. (2018). Viewpoint: When will ai exceed human performance? Evidence from ai experts. Journal of Artificial Intelligence Research, 62, 729–754. https://doi.org/10.1613/jair.1.11222
Latzer, M., Büchi, M., & Festic, N. (2019). Internetanwendungen und deren Nutzung in der Schweiz 2019. Themenbericht aus dem World Internet Project – Switzerland 2019. Retrieved from http://mediachange.ch/research/wip-ch-2019
Österle, H. (2020). Life Engineering. Mehr Lebensqualität dank maschineller Intelligenz? Wiesbaden: Springer Nature.
Rheinland, T. (2021). Connected Car Data – begehrt und umkämpft . Retrieved from https://go.tuv.com/download-wp-st-gallen?elqTrackId=062281247C79F774635FD6B7617D508F&elq=5c39010f9dc94cb094a76b866522ce5e&elqaid=6676&elqat=1&elqCampaignId=7275