Hubert Österle
Dieses Papier ist eine Aufforderung zu einer Disziplin Life Engineering. Seit mehr als fünfzig Jahren beschäftigt sich das Business Engineering mit der Nutzung der Informationstechnik zum Wohle von Unternehmen und anderen Organisationen, beispielsweise mittels elektronischer Märkte. Seit zwanzig Jahren verändert die maschinelle Intelligenz zunehmend das menschliche Leben, doch die Wissenschaft hilft kaum, die Veränderungen zum Wohle der Menschen zu steuern.
Aktive digitale Dienste in allen Lebensbereichen
Aus Internet-Webseiten werden aktive digitale Assistenten. Aus einer Routenplanung auf dem Personal Computer mit Google Maps zu Beginn der 1990er Jahre ist ein Navigationsassistent auf dem Smartphone entstanden, der das parkierte Auto selbständig findet, Strecken zum Umfahren von Staus oder alternative Verkehrsmittel vorschlägt und auf Tankstellen hinweist. Zunehmend autonomere Fahrzeuge übernehmen viele Funktionen des Fahrens. Ein künftiger aktiver persönlicher Assistent erkennt selbständig Mobilitätsanforderungen und organisiert die Reise oder ersatzweise ein Telemeeting.
Aktive digitale Dienste basieren auf gigantischen Datenbeständen, die auf die persönlichen Informationen der Menschen und ihrer Umgebung zugreifen. Die Personendaten stammen aus dem Internetverkehr des Menschen, aus der Dokumentation seiner medizinischen Befunde, aus den Sensoren im Auto, in der Wohnung und am Körper (Wearables), aus Überwachungskameras usw. Dazu kommen die Sachdaten, also Daten über Unternehmen, Produkte und Transaktionen sowie Messwerte aus Sensoren wie Wetterstationen. Um die Universalität zu betonen, spricht man gelegentlich von einer Weltdatenbank, auch wenn diese selbstverständlich erst kleine Ausschnitte der Wirklichkeit abbildet und auf viele Datenbestände verteilt ist.
Data Analytics, unter vielen Bezeichnungen wie z.B. Deep Learning, leitet aus den Daten Muster ab, die das Verhalten der Menschen beschreiben und aus denen die digitalen Dienste ihre Empfehlungen ableiten.
Facebook, Amazon, Microsoft, Apple, Netflix und Google sowie Baidu, Alibaba und Tencent sind dominante Konsumentenplattformen (Megaportale). Sie haben die höchsten Benutzerzahlen, besitzen die größten Datenbestände, haben die am weitesten entwickelten Modelle des Konsumentenverhaltens und integrieren immer mehr Funktionen, für die der Konsument zuvor isolierte Dienste, vor allem Apps, benötigt hat.
Maschinelle Intelligenz in Form von personalisierten, aktiven digitalen Diensten verändert das Leben der Menschen grundlegend, doch wir sind auf diesen Sprung der soziotechnischen Evolution nicht vorbereitet.
Maschinelle Intelligenz und Ethik
Die Menschen können die Entscheidungen der maschinellen Intelligenz oft nicht mehr nachvollziehen, sei es das Suchergebnis einer Google-Abfrage, sei es die Genehmigung eines Kreditantrages, die Behandlung einer Jobbewerbung oder sei es die personalisierte Auswahl von Nachrichten. Die Anbieter von Produkten und Dienstleistungen analysieren unser Verhalten, unsere Präferenzen und unsere finanziellen Möglichkeiten, versorgen uns mit Nachrichten rund um ihre Angebote, steuern unsere Bedürfnisse über die Werbung und binden uns mit nicht durchschaubaren allgemeinen Geschäftsbedingungen.
Es kommt zu einer massiven Machtverschiebung, nicht nur zwischen Individuen und Megaportalen, sondern immer mehr auch zwischen den monopolartigen Plattformen und den Regierungen. Politiker, Unternehmer und Wissenschaftler beobachten diese Entwicklung mit ihren Chancen und Gefahren und versuchen sie zum Nutzen der Menschen zu steuern. So bereiten das Justice Department und die Federal Trade Commission der USA seit April 2019 Antitrustverfahren gegen Alphabet (Google), Facebook, Amazon und weitere Megaportale vor [1], um den Wettbewerb zu fördern.
Die OECD [2], die IEEE [3] und einzelne Staaten wie California [4] und die EU [5] entwickeln ethische Grundsätze für den Umgang mit der maschinellen Intelligenz, also jeder Art von digitalen Diensten wie autonomen Fahrzeugen, Haussteuerungen, smarten Exoskeletten, mobilen Apps und Internetseiten bis hin zur Verbrechensbekämpfung. Sie postulieren menschliche Werte wie Wohlbefinden, Menschenrechte, Transparenz, Nachvollziehbarkeit von Entscheidungen, Work-Live-Balance und Autonomie des Menschen. So begrüßenswert die bisher entstandenen ethischen Leitlinien sind, so schwer sind sie in objektiv überprüfbare Handlungen umzusetzen.
Lebensqualität
Was ist letztlich das Ziel von Ethik? Das Wohlergehen der Menschen. Das oberste Ziel der Menschheit ist Glück, oder etwas bescheidener formuliert, Lebensqualität. Von Platon und Epikur bis zur heutigen Glücksforschung, dokumentiert beispielsweise im jährlichen World-Happiness-Report der UNO, versuchen Psychologen, Neurowissenschaftler, Politologen, Ökonomen, Philosophen u.a. Disziplinen zu definieren, was den Menschen glücklich macht.
Die erwähnten ethischen Grundsätze wie Autonomie sind breit akzeptierte Werte, ohne jedoch ihren Beitrag zur Lebensqualität wirklich zu benennen. Wenn wir die maschinelle Intelligenz tatsächlich zum Wohle der Menschen steuern wollen, müssen wir besser verstehen, was für die Menschen gut ist. Wenn wir den Beitrag auch noch messbar machen könnten, hätten wir das Instrumentarium zu einer wirkungsvollen, menschzentrierten Lenkung der technologischen Entwicklung.
Mit diesem Ziel vor Augen ist das Lebensqualitätsmodell des nachfolgenden Bildes entstanden. Es versucht, die heute verfügbaren Erkenntnisse der Glücksforschung zusammenzufassen, und repräsentiert die Faktoren des Glücks (und Unglücks) als Netz von 13 Bedürfnissen (für eine ausführliche Darstellung s. [6] S.51).
Das Modell unterscheidet Replikationsbedürfnisse, das sind die Bedürfnisse der Selbst- und Arterhaltung, sowie Entwicklungsbedürfnisse, die der Selektion der besten Gene sowie der Mehrung des Wissens dienen. Die Überflussgesellschaft der hoch entwickelten Staaten kann die Bedürfnisse der Selbst- und Arterhaltung weitgehend befriedigen und gibt uns die Ressourcen, uns zunehmend den Entwicklungsbedürfnissen zu widmen. Die Menschen setzen ihre Kraft immer mehr dafür ein, sich von ihren Mitbewerbern in der Fortpflanzung zu differenzieren. In der natürlichen Evolution sorgt das für die Selektion der besten Gene, in der technologischen Entwicklung für den Wettbewerb der besten Ideen. Die Psychologie beobachtet ein hedonisches Hamsterrad, weil die Befriedigung der Selektionsbedürfnisse nur kurzfristig Hedonia erzeugt, die hedonische Akkomodation aber dafür sorgt, dass diese Bedürfnisse nach immer stärkeren Stimuli verlangen. Zudem ist jede Verbesserung relativ, denn die Konkurrenten (Vergleichspersonen) geben ebenfalls ihr Bestes. Das Hamsterrad wird zusammen mit der Reizüberflutung und weiteren Faktoren dafür verantwortlich gemacht, dass sich die Krankheitstage durch psychische Störungen in den letzten beiden Jahrzehnten beinahe verdreifacht haben [7].
Lebensqualität und Evolution
Die technologische Entwicklung hat der Menschheit einen materiellen Wohlstand gebracht, der noch vor wenigen Jahren nicht einmal vorstellbar gewesen ist. In der Marktwirtschaft kauft der Konsument, was ihm am meisten nützt, und produziert das Unternehmen, was es am besten verkauft. Das sollte sicherstellen, dass die technologische Evolution zum Wohle der Menschen wirkt.
Doch der Mensch weiß nicht wirklich, was ihn glücklich macht, und selbst wenn er es weiß, handelt er wenig konsequent. Die kurzfristige Befriedigung von Bedürfnissen wie Bequemlichkeit (Effizienz) oder Genuss (Nahrung) setzt sich häufig gegen vernünftiges Verhalten zur langfristigen Zufriedenheit durch. Wir verzichten zugunsten der Bequemlichkeit auf Privatheit und verlieren damit Autonomie (Macht). Wir genießen übermäßig Schokolade und schaden damit längerfristig unserem Aussehen. Wir opfern unsere Gesundheit für die Erzielung von Einkommen (Besitz), um uns durch Luxusgüter von Vergleichspersonen abzuheben, die das gleiche tun. Wären wir vernünftig, gäbe es weder Überschuldung noch Adipositas und Burn-out.
Die Evolution treibt mit dem hedonischen Hamsterrad die technische und wirtschaftliche Entwicklung. Sind die Grundbedürfnisse der Selbst- und Arterhaltung abgedeckt, treiben uns die Bedürfnisse Selbstwert, Wissen, Status und Einkommen (Besitz). Wir verwenden die Technologie, um mehr und billiger zu produzieren und damit Kapital (Besitz) zu erwirtschaften. Wir verwenden das Kapital, um die Technologie, insbesondere die maschinelle Intelligenz leistungsfähiger zu machen.
Die Menschen kennen das Ziel der Evolution nicht. Doch wenn wir die Geschichte der Evolution, insbesondere der maschinellen Intelligenz, beobachten, können wir zum Schluss kommen, dass Intelligenz ein wichtiges, wenn nicht das wichtigste Ziel der Evolution ist. Aber die Evolution nutzt das Glück und Unglück des Menschen nur als Anreiz zur Entwicklung. Nicht das Glück der Menschen, sondern die Entwicklung scheint das Ziel der Evolution zu sein. Oder aus anderer Perspektive: Nicht der Fortschritt dient dem Menschen, sondern der Mensch dem Fortschritt.
Die Ökonomie hat noch keinen Steuerungsmechanismus gefunden, der für Konkurrenzfähigkeit in der technologischen Entwicklung einerseits und für Lebensqualität andererseits sorgt. Im Moment begnügen wir uns damit, international anerkannte Regeln zu formulieren, die offensichtlichen Missbrauch der maschinellen Intelligenz zum Schaden der Menschen verhindern. Beispiele sind das Recht auf die Privatheit der persönlichen Daten, das Recht auf die Erklärung von Entscheidungen oder das Recht auf einen gleichberechtigten Zugang zum Internet. Die marktwirtschaftliche wie die staatliche Steuerung, beispielsweise im chinesischen Social Scoring, bergen Chancen und Gefahren.
Individuen können ein Lebensqualitätsmodell nutzen, um ihr Leben auf eine nachhaltig hohe Qualität auszurichten. Unternehmen nutzen heute ein hoch differenziertes Wissen, um die Menschen zur Befriedigung ihrer kurzfristigen Bedürfnisse (Hedonia) zu beeinflussen. Sie könnten aber auch auf die langfristige Zufriedenheit (Eudaimonia) zielen, wie dies beispielsweise die Corporate Social Responsibility [8] versucht. Die Politik diskutiert über die Breitbandvernetzung anstatt sich mit einem folgenschweren gesellschaftlichen und wirtschaftlichen Wandel auseinanderzusetzen.
Aufgaben des Life Engineering
Wir brauchen eine Disziplin Life Engineering, die folgende Teilgebiete abdeckt [6, S.123 ff.]:
Faktoren und Messung der Lebensqualität: Sensoren, beispielsweise verbaut in Smartwatches und Fitnesstracker, können detaillierte Daten bezüglich der Lebensqualität liefern.
Maschinelle Intelligenz in allen Lebensbereichen: Mit zunehmendem Fortschritt wird maschinelle Intelligenz mehr und mehr digitale Services zur Assistenz im täglichen Leben anbieten.
Weltdatenbank als Sammlung aller Personen- und Sachdaten: Riesige B2B und B2C Plattformen, ebenso wie öffentliche Datenbanken, werden die analoge Welt schon bald in einer Detailliertheit und Präzision darstellen können, die unsere aktuelle Vorstellungskapazität nicht erfassen kann
Weltmodell als Wissen über das menschliche Verhalten: Datenanalyse wird mit Hilfe der gigantischen Datensammlungen mehr und mehr menschliche Verhaltensmuster, Lebensweisen und Regeln ableiten.
Steuerungsmechanismen für nachhaltige Lebensqualität: Menschen, Unternehmen und politische Organisationen müssen die Wichtigkeit und Auswirkung künstlicher Intelligenz realisieren und, anders als bisher, nicht nur für die Kumulierung von Kapital, sondern tatsächlich zur Verbesserung der menschlichen Lebensqualität nutzen.
Life Engineering im Jahr 2030 und später könnte wie folgt aussehen: Transaktionale Anwendungen, soziale Medien und Billionen von Sensoren erfassen die menschlichen Verhaltensweisen und Lebensumgebungen (sowohl natürliche als auch maschinelle). Gigantische B2B Plattformen als weltweite elektronische Märkte werden ein unvorstellbar akkurates, digitales Abbild der analogen Welt portraitieren. Life Engineering bekommt Zugang zu all diesen Daten und nutzt diese, um beispielsweise mit intelligenten Services das allgemeine Wohlbefinden und die Lebensqualität der Menschen zu verbessern.
Die menschliche Zivilisation steht an der Schwelle einer neuen Entwicklungsstufe. Hierzu sollte Life Engineering einen entscheidenden Beitrag leisten. Es liegt an uns, ob wir die Entwicklung maschineller Intelligenz den Mechanismen der kapitalistischen Evolution überlassen, oder unser Glück selbst in die Hände nehmen. Das bedeutet schlussendlich, entweder Fortschritt auf Kosten von Lebensqualität zu wählen, oder sich für mehr Lebensqualität auf Kosten von rasantem Fortschritt zu entscheiden.
Literatur
[1] J. M. Schlesinger, B. Kendall, and J. D. Mckinnon, “Tech Giants Google , Facebook and Amazon Intensify Antitrust Debate market,” WSJ, pp. 1–10, 08-Jun-2019.
[2] OECD, “Going Digital.” [Online]. Available: www.oecd.org/going-digital/topics. [Accessed: 22-Apr-2019].
[3] IEEE, “Ethically Aligned Design - Version II overview,” 2018.
[4] J. Dean, T. Gruber, and A. Romero, “State of California Endorses Asilomar AI Principles,” 2018. [Online]. Available: https://futureoflife.org/2018/08/31/state-of-california-endorses-asilomar-ai-principles/. [Accessed: 07-Sep-2018].
[5] Expert Group on Artficial Intelligence, “Ethics guidelines for trustworthy AI,” 2018.
[6] H. Oesterle, Life Engineering. Machine Intelligence and Quality of Life. Springer Nature, 2019.
[7] J. Marschall, S. Hildebrandt, and H.-D. Nolting, Gesundheitsreport 2019 - Analyse der Arbeitsunfähigkeitsdaten. Alte und neue Süchte im Betrieb. Hamburg: DAK-Gesundheit, 2019.
[8] M. H. . Schmiedeknecht and J. Wieland, “ISO 26000, 7 Grundsätze, 6 Kernthemen,” in Corporate Social Responsibility. Verantwortungsvolle Unternehmensführung in Theorie und Praxis, Berlin, Heidelberg: Springer Gabler, 2015.
Veröffentlicht online in Electronic Markets am 08 Januar 2020.
Vielen Dank für die Freigabe zur Veröffentlichung auf www.lifeengineering.ch.