Die Ethik der künstlichen Intelligenz ist ein Teilbereich der angewandten Ethik, der sich mit den ethischen Fragen von KI-SystemenKI-Systeme sind „vom Menschen entwickelte Software– (und möglicherweise auch Hardware–) Systeme, die in Bezug auf ein komplexes Ziel auf physischer oder digitaler Ebene agieren, indem sie ihre Umgebung durch Datenerfassung wahrnehmen, die gesammelten strukturierten oder unstrukturierten Daten interpretieren, Schlussfolgerungen daraus ziehen oder die aus diesen Daten abgeleiteten Informationen verarbeiten und über geeignete Maßnahmen zur Erreichung des vorgegebenen Ziels entscheiden. KI-Systeme können … auch ihr Verhalten anpassen, indem sie analysieren, wie die Umgebung von ihren vorherigen Aktionen beeinflusst wird.“ befasst; Themenbereiche sind: die Rolle von KI-Systemen in der Gesellschaft und ethische Werte, die ihrem Einsatz zugrunde liegen. ethische Normen für Menschen, die künstlich intelligente Systeme entwerfen, herstellen, testen, zertifizieren und benutzen. ethisches Verhalten von KI-Systemen (Maschinenethik). Konsequenzen einer sog. Singularität aufgrund einer superintelligenten KI. Die KI-Ethik hat Berührungspunkte und Überlappungen mit anderen Teilbereichen der angewandten Ethik: Digitale Ethik, Informationsethik, Medienethik, Virtuelle Ethik, Technikethik und Roboterethik.
Die wachsende Bedeutung der KI-Ethik ergibt sich aus der Tatsache, dass Dabei sind nicht die Auswirkungen der KI-Anwendung an sich Gegenstand der KI-Ethik, sondern die Frage, wann und unter welchen Bedingungen bestimmte Auswirkungen zulässig sind.
Die Debatte über ethische Fragen der KI begann bereits 1960 mit einer Arbeit von Norbert Wiener und der Erwiderung von Arthur L. Samuel.
KI-Ethik als angewandte Ethik KI-Ethik ist ein junges Teilgebiet der angewandten Ethik. Wie in anderen Bereichen der angewandten Ethik lassen sich auch hier zwei unterschiedliche Herangehensweisen unterscheiden: einerseits ein prinzipienethischer Ansatz, der allgemeine Prinzipien für die Behandlung praktischer Probleme aufstellt, und andererseits ein partikularistischer Ansatz, der Moralurteile für konkrete Handlungssituationen entwickelt.
Prinzipienethischer Ansatz Der prinzipienethische Ansatz () wurde in den 1970er Jahren in der Medizinethik entwickelt und dient seitdem als Vorbild für die Entwicklung anderer Bereichsethiken, auch der KI-Ethik.
Bei diesem Ansatz wird ein Satz von Prinzipien bereitgestellt, aus denen sich moralische Urteile für konkrete Handlungssituationen ableiten lassen, daher auch die Bezeichnung deduktivistisches Modell. Die Prinzipien werden , so dass sie von den unterschiedlichen normativen Theorien unabhängig und mit jeder akzeptablen Ethik verträglich sind. Sie werden daher als Prinzipien mittlerer Reichweite () bezeichnet und sollen außerdem an die moralischen Alltagsüberzeugungen () anknüpfen. Es gibt hier kein oberstes Prinzip, das die Anwendung der anderen Prinzipien regelt, vielmehr kann es im konkreten Anwendungsfall durchaus Kollisionen zwischen den Prinzipien geben.
Die Anwendung der Prinzipien auf einen konkreten Fall ist keine einfache Herleitung, sondern sie verlangt einerseits eine genaue Beschreibung der Handlungsalternativen und andererseits eine sorgfältige Interpretation und Gewichtung der Prinzipien. Ziel ist ein Überlegungsgleichgewicht wie es John Rawls in seiner Theorie der Gerechtigkeit eingeführt hat. Das Überlegungsgleichgewicht liefert kein kategorisches Urteil, sondern eine sogenannte Prima-facie- oder Ceteris-paribus-Entscheidung.
Partikularistischer Ansatz
Ob eine Eigenschaft ethisch für oder gegen eine Handlung spricht, hängt im Allgemeinen von den anderen Eigenschaften und Randbedingungen der Handlung ab. Beim partikularistischen Ansatz werden konkrete Handlungsoptionen sorgfältig beschrieben und mit ähnlich gelagerten Fallbeispielen verglichen. Auch der partikularistische Ansatz greift auf ethische Prinzipien und Werte zurück. Andere Bezeichnungen für diesen Ansatz sind rekonstruktives Modell oder kasuistischer Ansatz.
Ethische Prinzipien der künstlichen Intelligenz Eine Analyse von 84 Dokumenten mit ethischen Prinzipien und Richtlinien für KI, die überwiegend zwischen 2016 und 2019 veröffentlicht wurden, identifizierte 11 übergreifende ethische Prinzipien. Nach der Häufigkeit ihres Auftretens geordnet sind dies: Transparenz, Erklärbarkeit, Interpretierbarkeit. Gerechtigkeit, Fairness, Gleichheit, Inklusion, Pluralität, Vermeidung informationeller Voreingenommenheit (). Schadensvermeidung, keine Diskriminierung. Verantwortung und Rechenschaftspflicht. Schutz der Privatsphäre, Datenschutz und Datensicherheit. Gemeinwohl, Schaffung sozioökonomischer Chancen und wirtschaftlichen Wohlstands. Freiheit und Autonomie, Meinungsfreiheit, informationelle Selbstbestimmung, freie Wahl der Plattform und Technologie, Schutz vor technologischen Experimenten, Manipulation und Überwachung. Vertrauen, vertrauenswürdige KI-Forschung, KI-Technologie und Designprinzipien. Nachhaltigkeit. Würde als Vorrecht des Menschen respektieren, bewahren und stärken. Solidarität, Auswirkungen von KI auf den Arbeitsmarkt und den sozialen Zusammenhalt, Nutzbarkeit der KI für alle Glieder der Gesellschaft.
Luciano Floridi und Josh Cowls warnen davor, dass die Vielzahl unterschiedlicher KI-Regelwerke eher zu Verwirrung führt und dass ein Ihre Analyse von sechs hochrangigen Initiativen für gesellschaftlich nützlichen Einsatz von KI ergab eine weitgehende Übereinstimmung der ethischen Prinzipien, so dass es nach ihrer Ansicht möglich ist, die KI-Ethik auf die vier Prinzipien der Medizinethik und ein zusätzliches fünftes Prinzip Erklärbarkeit zu gründen: Fürsorge (Benefizienz): KI-Technologie soll der Menschheit nützen, das Wohlergehen fördern, die Menschenwürde wahren und der Erhaltung des Planeten dienen. Schadensvermeidung (Non-Malefizienz): Negative Folgen eines übermäßigen oder missbräuchlichen Einsatzes von KI müssen vermieden werden, KI soll nur in einem sicheren Rahmen eingesetzt werden. Autonomie: Menschen müssen die volle Entscheidungsfreiheit darüber haben, ob und welche Aufgaben sie an KI-Systeme delegieren, ihre Freiheit, sich eigene Normen und Standards zu setzen, muss gewahrt bleiben. Gerechtigkeit: Wahrung der Solidarität, Vermeidung von Ungerechtigkeit, gleichberechtigter Zugang zu den Vorteilen der KI. Erklärbarkeit (Verständlichkeit): Die Prinzipien 1 bis 4 sind nur realisierbar, wenn auch Laien nachvollziehen können, welchen Nutzen oder Schaden KI für die Gesellschaft hat und wer für welche Auswirkungen verantwortlich ist.
Eine neuere Anwendung dieses prinzipienethischen Ansatzes überträgt die fünf Prinzipien auf den Einsatz von KI in der Arbeitswelt. Dabei werden ethische Anforderungen mit technischen Schutzmaßnahmen, organisationalen Verantwortlichkeiten und der Perspektive betroffener Beschäftigter verknüpft. Vorgeschlagen wird zudem eine wiederkehrende interdisziplinäre Überprüfung von KI-Systemen im organisationalen Kontext.
Debatten der KI-Ethik Autonomes Fahren
Die Stufen des automatisierten Fahrens werden durch die Norm SAE J3016 definiert. Ethische Probleme betreffen vor allem die Automatisierungsstufen 4 (Hochautomatisierung: das System kann in spezifischen Anwendungsfällen die Verkehrssituationen bewältigen) und 5 (Vollautomatisierung: das System beherrscht alle Verkehrssituationen).
Im Folgenden wird die Diskussion in Deutschland dargestellt. Wesentliche Quelle dafür ist der Bericht der vom Bundesministerium für Digitales und Verkehr eingesetzten Ethikkommission. Die Stanford Encyclopedia of Philosophy zählt ihn zu den bemerkenswerten politischen Bemühungen in diesem Bereich.
Ziele für den Einsatz autonomer Fahrzeuge Automatisierte Verkehrssysteme sollen helfen, die Sicherheit für alle Verkehrsteilnehmer zu verbessern, die Mobilitätschancen zu erhöhen und weitere Vorteile wie Ressourcenschonung oder Umweltschutz zu unterstützen. Die Zulassung automatisierter Systeme ist nur dann vertretbar, wenn sie im Vergleich zur menschlichen Fahrleistung zumindest eine Schadensminderung verspricht. Eine Vollautomatisierung wird kritisch gesehen, da sie zu einem Verlust von Fähigkeiten führt und damit das autonome Handeln des Menschen einschränkt.
Reaktion in Gefahrensituationen Eine Vielzahl fachlicher und populärer Veröffentlichungen behandelt die Frage, wie ein autonomes Fahrzeug bei plötzlich auftretenden Gefahren reagieren soll. Als besondere Schwierigkeit gilt, dass diese Entscheidung bereits während der Programmierung getroffen werden muss, also zu einem Zeitpunkt, an dem die Details der konkreten Situation noch nicht bekannt sind.
Als Modell für solche Entscheidungssituationen wird häufig das moralische Dilemma des Trolley-Problems in seinen verschiedenen Varianten herangezogen. Fachleute bezweifeln, ob ein autonomes Auto jemals das Trolley-Problem zu lösen haben wird. Denn dabei „handelt es sich um Gedankenexperimente, bei denen die Wahlmöglichkeiten künstlich auf eine kleine, endliche Anzahl verschiedener, einmaliger Optionen beschränkt sind und der Akteur über perfektes Wissen verfügt“.
Die Ethikkommission ist ähnlicher Auffassung: „Echte dilemmatische Entscheidungen, wie die Entscheidung Leben gegen Leben … sind nicht eindeutig normierbar und auch nicht ethisch zweifelsfrei programmierbar.“ In Gefahrensituationen besitzt der Schutz menschlichen Lebens höchste Priorität.
Eine Studie über die Akzeptanz von Entscheidungsstrategien hat gezeigt, dass die Mehrheit der Befragten eine utilitaristische Strategie, die auf eine Minimierung der Opferzahl setzt, befürwortet und wünscht, dass andere solche Fahrzeuge kaufen, aber selbst ein Fahrzeug vorziehen würde, das seine Insassen um jeden Preis schützt.
Haftung und Verantwortung Damit lehnt die Ethikkommission auch Überlegungen ab, die Haftung der Automobilhersteller zu begrenzen, um dadurch die Entwicklung und Verbesserung autonomer Fahrzeuge zu fördern und die Zahl schwerer Unfälle erwartungsgemäß zu senken.
Soll der Nutzer verpflichtet werden, auf die Straße und den Verkehr zu achten und gegebenenfalls einzugreifen? Nida-Rümelin lehnt das ab, weil es Blinde oder ältere Menschen von der Benutzung autonomer Fahrzeuge ausschlösse und weil die Entwicklung bald einen Stand erreichen wird, an dem der Mensch nicht mehr wirksam eingreifen kann. Die Ethikkommission verlangt darüber hinaus, „Software und Technik hochautomatisierter Fahrzeuge müssen so ausgelegt werden, dass die Notwendigkeit einer abrupten Übergabe der Kontrolle an den Fahrer (‚Notstand‘) praktisch ausgeschlossen ist.“
Die verschuldensunabhängige Haftung für das allgemeine Risiko der Fahrzeugnutzung soll auch für autonome Fahrzeuge über eine allgemeine Haftpflichtversicherung abgesichert werden.
Die strafrechtliche Produkthaftung für autonome Fahrzeuge führt zu einer Verantwortungsdiffusion, da dem Nutzer kein mangelndes Handeln vorgeworfen werden kann und gegenüber dem Hersteller eine Zurechnung wegen Produkthaftung oder Gewährleistung nur sehr schwer nachweisbar ist.
Einschränkung der menschlichen Autonomie Wenn autonome Fahrzeuge zur Erhöhung der Sicherheit führen, muss dann die (freiwillige) Übernahme der Steuerung durch den Menschen (Overruling) ausgeschlossen werden?