Ethik oder Lebensqualität?

Hubert Österle, Universität St. Gallen, Schweiz hubert.oesterle@unisg.ch

Die maschinelle Intelligenz hat jahrzehntelang die Unternehmen und die Wirtschaft verändert. Nun verändert sie das Leben der Menschen. Das erzeugt Ängste und Hoffnungen und führt zu einer Flut von Diskussionen über Ethik und Lebensqualität (Glück und Unglück) in allen Medien und über alle Kanäle. Was ist das Ziel und wie können wir die Entwicklung darauf ausrichten?

Überfluss und Angst bestimmen die Diskussion.

Die Technologie und der Kapitalismus haben mindestens den hoch entwickelten Gesellschaften einen enormen materiellen Wohlstand gebracht und Bedürfnisse wie Nahrung, Sicherheit und Gesundheit, also die Bedürfnisse der Selbst- und Arterhaltung befriedigt.

Fig. 1: Bedürfnisnetzwerk

Doch die Überfluss­gesellschaft kann mehr als die Grundbedürfnisse zu befriedigen. Sie gibt dem Individuum die Möglichkeit, mehr Energie in seine Differenzierung zu investieren, indem jeder versucht, genau seine Gene weiterzugeben bzw. den attraktivsten Fortpflanzungspartner zu gewinnen. Die Bedürfnisse der Selektion (s.u. hellblau hinterlegt) treten in den Vordergrund (s. dazu im Buch „Life Engineering“ S. 64 ff.) und treiben den Menschen in ein Hamsterrad, in dem jeder ständig, bewusst oder unbewusst, an seinem Rang arbeitet, sei es durch Kleidung, durch Ämter im Verein, durch Wissen, durch Fertigkeiten in der Musik, durch jugendliche Fitness oder einfach durch Kapital. Eine geradezu explosionsartig gewachsene Literatur der Glücksforschung und der Ethik sowie ein begleitendes Angebot an Lifestyle-Services wie Glücksschulung, Yoga und Wellness wollen uns helfen, möglichst viele positive Gefühle aus der Befriedigung aller Bedürfnisse zu gewinnen und negative Gefühle zu vermeiden.

Gleichzeitig wächst die Angst vor dem, was da auf uns zukommt. Dystopien wie der Überwa­chungs­kapitalismus, der totalitäre Überwachungsstaat, der Verlust von Menschlichkeit und tradierten Werten oder die Überforderung des Individuums verstellen den Blick auf die dringenden Gestaltungsaufgaben im bevorstehenden Wandel.

Die Entwicklung braucht ethische Leitlinien.

Aussagen wie „zum Wohle der Menschheit“ sind zu einem gängigen Bestandteil unterneh­meri­scher Selbstdarstellun­gen geworden. Doch wer vertraut auf derart vollmundige Aussagen? Was hat die Ethik, insbes. die Wirtschaftsethik, wie sie Heinrich Weber vor 100 Jahren formuliert hat, tatsächlich bewirkt? Welche Interessen leiten die Ethik?

Unternehmen und Unternehmensführer wollen ihre Stakeholder zufriedenstellen.

Im American Business Round Table haben knapp 200 CEOs führender US-Unternehmen ein „fundamental commitment to all of our stakeholders“ unterzeichnet. Viele Medien haben es als einen Versuch bezeichnet, die sozialen Missstände infolge der Digitalisierung durch Absichtserklärungen schönzureden. Interessanterweise erwähnt das Statement dieser Wirtschaftsvertreter nicht einmal die vor zehn Jahren verabschiedete, viel konkretere internationale Norm ISO 26000 zur Corporate Social Responsibility. Die Digitalisierung nötigt viele Unternehmensfüh­run­gen, u.a. einen verantwortungsvollen Umgang mit Personendaten nachzuweisen. Einzelne Unternehmensberater haben darauf mit Angeboten für Datenethik reagiert, mit denen sie vor allem das Rating der Unternehmen pflegen wollen.

Investoren suchen nach Rendite durch Nachhaltigkeit.

Investoren suchen durch Investments, die ökologische und soziale Kriterien sowie die Ansprüche guter Governance (ESG, ecological, social, governance) erfüllen, nach zusätzlicher finanzieller Performance. Sie versuchen, Chancen und Risiken ihrer Investments anhand dieser Kriterien frühzeitig zu erkennen und damit die Rentabilität ihrer Anlagen zu steigern. Rating­agen­turen wie MSCI und inrate bewerten für die Investoren börsenkotierte Unternehmen nach den ESG-Kriterien. Die Politik nutzt gemäss den Empfehlungen der OECD das Gewicht der Finanzmärkte, um darüber eine nachhaltige Entwicklung zu erreichen.

Gutmenschen treiben die Ethikdiskussion.

Die Vermeidung der Gefahren der Digitalisierung und das Wahrnehmen der Chancen zum Wohle der Menschen ist eine Aufgabe für alle Bürger. Jeder muss sich damit auseinander­setzen, wie er selbst die digitalen Dienste nutzt und was er von Unternehmen und von der Politik erwartet, also beispielsweise welche persönlichen Daten er Facebook überlässt und wo ihn die Politik vor Missbrauch schützen soll. Gefährlich ist es dann, wenn Gutmenschen die Diskussion dominieren, sofern Gutmenschen Leute sind, die häufig rein emotional argumentieren, die meist nur eine sehr enge Teilsicht wahrnehmen und die das fehlende Wissen durch Lautstärke kompensieren und damit die Politik beeinflussen. Typische Feindbilder sind die Gier der Aktionäre, die totalitäre Manipulation in China, die Besteuerung ausländischer Konzerne und die Verblödung der Handynutzer. Gutmenschen setzen sich durchaus altruistisch für das Wohl der Gemeinschaft ein, verlangen aber die Opfer vor allem von anderen. Vielfach ist ihr Engagement eine Suche nach Anerkennung für ihren Einsatz und ein Streben nach Selbstwert, der häufig mit „sinnerfülltem Leben“ oder ähnlichen Formulierungen umschrieben wird.

Die Politik folgt dem Bedürfnis nach ethischen Regeln.

Politiker brauchen Wählerstimmen bzw. das Vertrauen der Untertanen. Sie nehmen also die Stimmung der Bürger auf und setzen sie in griffige Postulate um. Ein gutes Beispiel ist die Ankündigung der Europäischen Union zur digitalen Zukunft Europas mit populistisch erwünschten Werten wie Fairness, Wettbewerbsfähigkeit, Offenheit, Demokratie und Nachhaltigkeit. Das Papier beschäftigt sich neben der Betonung von Modethemen wie Künstlicher Intelligenz vor allem mit der Regulierung der Digitalisierung, während es kaum Konzepte präsentiert, wie Europa im Wettbewerb der Digitalisierung mit den USA und China mithalten soll. Der Schwerpunkt liegt also auf der Einschränkung unternehmerischen Handelns, nicht auf Anreizen zur Nutzung von Potentialen, z.B. des Internets of Things (5G und Sensorik sowie Aktuatorik). Die adressierten Bürger kennen diese Technologien nicht oder zu wenig und sie haben weder die Zeit, noch die Motivation und die Voraussetzungen, diese Technologien und ihre Konsequenzen zu verstehen. Es ist daher viel einfacher, die erwähnten Feindbilder zu bedienen als Begeisterung für unverstandene Technologien zu wecken.

Das bestätigt auch derzeit die Diskussion zur Nutzung der Lokationsdaten von Handynutzern zur Eindämmung der Covid-19-Verbreitung. Die Daten, die seit Langem beispielsweise für die Planung des öffentlichen Verkehrs genutzt werden, sind im Vergleich zur Nutzung freiwillig abgegebener Daten bei Google, Apple oder Facebook geradezu vernachlässigbar. Selbst klassische Personendaten wie die Verkehrssünderkartei in Flensburg, Credit Scorings und Kundendaten im Einzelhandel ermöglichen einen weit gefährlicheren Missbrauch. Durch Gutmenschen und Aufmerksamkeit heischende Medien gepflegte ethische Werte verunmögli­chen eine seriöse Diskussion darüber, wie die schnell wachsenden Sammlungen von Personen- und Sachdaten helfen könnten, das Zusammenleben der Menschen gesünder, konfliktärmer und erfreuli­cher zu gestalten anstatt sich auf die Verschärfung des Strafrechts zu konzentrieren.

Ethik will Lebensqualität für alle.

Die Ethik sucht nach Regeln, die eine möglichst hohe Lebensqualität für alle Menschen bringen sollen. Wenn wir akzeptieren, dass die Digitalisierung nicht aufzuhalten ist und dass sie einen massiven soziokulturellen Wandel mit sich bringt, brauchen wir mehr als je zuvor Mechanismen, die diesen Wandel zum Wohle der Menschen lenken. Doch bieten die Ethik und die dahinterliegenden Interessen das Instrumentarium? Es fehlen zwei wesentliche Voraussetzungen: Erstens bestimmt die Ethik nicht, was Lebensqualität tatsächlich ausmacht. Zweitens fehlen folglich Verfahren zur objektiven Messung von Lebensqualität.

---

Eine Disziplin Life Engineering soll genau dort ansetzen. Sie soll ein belastbares Modell der Lebensqualität entwickeln, das auf den Erkenntnissen der Psychologie, der Neurowissen­schaften, der Konsumentenforschung und anderer Disziplinen aufsetzt und sie soll dieses Modell anhand der immer detaillierteren und automatisch erfassten Personen- und Sachdaten validieren. Das Netzwerk der Bedürfnisse kann ein Ausgangspunkt sein, wenn jedes der Bedürfnisse wie etwa Gesundheit in seine Bestandteile wie z.B. Alter, Schmerzen, Gewicht, Kraft und Schlafqualität zerlegt wird und die Wirkzusammenhänge statistisch erfasst werden.

Wenn die Faktoren der Lebensqualität besser verstanden sind, wird es möglich, Chancen und Gefahren digitaler Services besser abzuschätzen. Die Sensoren einer Smartwatch können mögliche Einflussgrössen auf die Gesundheit messen, so dass individualisierte Zusammen­hänge etwa zwischen der körperlichen Aktivität und dem Schlafverhalten oder Herzrhythmus­störungen erkennbar werden und der Träger der Smartwatch damit seine Gesundheit und sein Wohlbefinden durch einfache Massnahmen steigern kann. Derart konkrete, statistisch gesicherte Bewertungen von digitalen Diensten sind derzeit noch die Ausnahme. Ein Lebens­qualitätsmodell selbst in einer so rudimentären Form wie das skizzierte Netzwerk der Bedürf­nisse liefert aber mindestens einen Diskussionsrahmen, um technische Entwicklungen argumentativ zu bewerten, wie das am Beispiel von Instagram gezeigt wird.

Die Ethik baut auf Werten wie Würde, Respekt, Vertrauen, Freundschaft, Verantwortung, Transparenz und Freiheit auf, ohne diese Werte zu begründen. Derartige Werte sind für die Menschen jedoch nur dann relevant, wenn sie die Bedürfnisse des Menschen treffen und damit positive oder negative Gefühle auslösen. Es ist eine spannende Übung, die Beziehung von ethischen Werten wie Vertrauen mit Bedürfnissen wie Sicherheit, Macht oder Effizienz (Vermeidung von Anstrengung) zu begründen.

Es wird sehr schnell klar, wie weit wir von einem Lebensqualitätsmodell entfernt sind, das Verhalten, Wahrnehmun­gen, Bedürfnisse, Gefühle und Wissen verbindet, es ist aber angesichts der Aufgaben der Ethik kaum zu verantworten, das Machbare nicht wenigstens zu versuchen bzw. diese Entwicklung den Megaportalen zu überlassen, die wie z.B. Google (Selfish Ledger) versuchen, diese Zusammenhänge immer besser zu verstehen und zu modellieren, denn diese Unternehmen und ihre Führung werden an ihrem wirtschaftlichen Erfolg gemessen, nicht an der Lebensqualität der Menschen. Sie müssen daher fast zwangsläufig die Kunden zu jenen Entscheidungen bewegen, die ihnen die grössten Umsätze bescheren.

Noch nie in der Geschichte der Menschheit hatten wir derart umfassende und automatisch erfasste Datenbestände, die Aussagen über Verhalten und Lebensqualität ermöglichen. Das Internet und die Senoren dokumentieren unser Leben immer lückenloser, wie Melanie Swan schon im Jahre 2012 unter dem Schlagwort des Quantified Self festgestellt hat. Die Instrumente des maschinellen Lernens und der Modellierung in neuronalen Netzwerken bieten uns die Chance, Muster der Lebensqualität zu erkennen und sie dann in digitalen Assistenten aller Art, vom Einkauf bis zur Ernährung zum Wohle der Menschen wirksam zu machen. Noch nie gab es eine derart intensive Unterstützung der Menschen durch die Maschinen in allen Bereichen des Lebens, wie sie digitale Services liefern. Noch nie war es also bis anhin möglich, dem Menschen so fundierte und auf sein Wohl ausgerichtete Ratschläge wie heute zu geben, ihn erkennbar oder hintergründig zu steuern. Der Gedanke daran erschreckt die Gutmenschen und erfüllt die Utopisten mit freudiger Erwartung.

Mit den Verfahren der Data Analytics werten beispielsweise Krankenversicherungen die Personen- und Sachdaten ihrer Versicherten aus, um die individuellen Risiken besser zu berechnen, die individuellen Prämien an die individuellen Risiken anzupassen und am Ende bei gleichen Prämieneinnahmen die Schadenskosten zu senken. Für manche Versicherte führt dies zu Ersparnissen, für gesundheitlich und damit meist auch finanziell Benachteiligte bedeutet das aber höhere Prämien. Die Umverteilung des Risikos im Sinne der Solidarität geht verloren.

Gelingt es einer Versicherung, die Einflüsse auf die Gesundheit besser zu verstehen und – was noch schwieriger ist – die Versicherten durch digitale Services zu einem gesundheitsfördernden Verhalten anzuleiten, dann hilft diese maschinelle Intelligenz sowohl den Versicherten als auch den Versicherern.

Ethik braucht Life Engineering

Die Entwicklung ist nicht aufzuhalten, aber die Richtung ist beeinflussbar. Wir brauchen eine Disziplin Life Engineering, welche die geisteswissenschaftlichen Konzepte der traditionellen Ethik und Philosophie in gestaltungsorientierte Vorschläge überträgt, also die technische, wirtschaftliche und gesellschaftliche Entwicklung pragmatisch prägt.

Nur wer die Entwicklung treibt und anführt, kann sie beeinflussen. Die Technikaversion, die in vielen der Ethikdiskussionen spürbar ist, bewirkt genau das Gegenteil von dem, was sie als Ziel verfolgt. Deshalb ist es äusserst begrüssenswert, dass sich beispielswiese in der IEEE (Institute of Electrical and Electronics Engineers) Ingenieure und Architekten zusammen­setzen, um Regeln für die maschinelle Intelligenz zu formulieren. Auch ohne ein elaboriertes Modell der Lebensqualität ist es möglich, mindestens einige offensichtlich ungewollte Eigenschaften von digitalen Services zu vermeiden. Dazu zählen beispielsweise die Regeln, dass der Mensch die über ihn gespeicherten Daten abfragen kann und deren Verwendung freigeben oder dass eine maschinelle Entscheidung begründet werden muss. Diese Regeln stossen allerdings auf die Begrenzung der kognitiven Fähigkeiten des Menschen, ob also ein Laie innerhalb vernünftiger Zeit diese Zusammenhänge überhaupt verstehen kann.

Abgesehen von diesen naheliegenden Regeln, die nicht lange durch wissenschaftliche Studien hergeleitet werden müssen, wäre es allerdings wünschenswert, wenn die Ethik von einem operationalen Modell der Lebensqualität ausgehen könnte. Es ist erfreulich, dass die Version 2 der IEEE-Richtlinien zum Ethically Aligned Design im Gegensatz zur ersten Version genau dies versucht. Sie geht von Ansätzen und Metrics für Well-being aus. Ihre Empfehlungen zu den unterschiedlichen Aspekten von Ethik für maschinelle Intelligenz sind letztlich eine umfassende Agenda für das Life Engineering.

Um derartige Anforderungen jemals erfüllen zu können, braucht eine Disziplin Life Engineering neben finanziellen Ressourcen

• Zugriff auf die digitalen Personen- und Sachdaten,

• Austausch des Wissens über die Verhaltensmuster und ihre Wirkungen auf die Lebensqualität

• Zugang zur Entwicklung der maschinellen Intelligenz

• Politische Anreize zu positiven und Verbote von negativen Entwicklungen

Life Engineering bietet die Chance, die Ethik aus dem Stadium einer Religion in ein Stadium der Wissenschaft zu überführen, so wie es die Aufklärung im 18. Jahrhundert geschafft hat. Diese hat eine Entwicklung der Menschheit hervorgebracht, die heute wahrscheinlich nur noch wenige rückgängig machen möchten.

Osterle, H. (2020). Life Engineering - Machine Intelligence and Quality of Life. https://doi.org/10.1007/978-3-030-31482-8, p. 68-80.

Swan, M. (2012). ‘Sensor Mania! The Internet of Things, Wearable Computing, Objective Metrics, and the Quantified Self 2.0’. Journal of Sensor and Actuator Networks, 1(3), 217–253. https://doi.org/10.3390/jsan1030217

Schmiedeknecht, M. H. & Wieland, J. (2015). ISO 26000, 7 Grundsätze, 6 Kernthemen. In Corporate Social Responsibility. Verantwortungsvolle Unternehmensführung in Theorie und Praxis. Berlin, Heidelberg: Springer Gabler.

Weber, M. (1915) Die Wirtschaftsethik der Weltreligionen. Jazzybee Verlag.

Zuboff, S. (2019). The Age of Surveillance Capitalism. New York: PublicAffairs.

[1] https://www.businessroundtable.org/business-roundtable-redefines-the-purpose-of-a-corporation-to-promote-an-economy-that-serves-all-americans [2] https://www.msci.com/documents/10199/123a2b2b-1395-4aa2-a121-ea14de6d708a [3] https://www.inrate.com/index.cfm [4] https://www.oecd.org/finance/Investment-Governance-Integration-ESG-Factors.pdf [5] https://ec.europa.eu/commission/presscorner/detail/de/ip_20_273 [6] https://www.lifeengineering.ch/post/social-scoring-the-future-of-economy-and-society [7] https://standards.ieee.org/content/ieee-standards/en/industry-connections/ec/ autonomous-systems.html