Regulierung von künstlicher Intelligenz

Die Regulierung von künstlicher Intelligenz ist die Entwicklung von Strategien und Gesetzen auf Seiten des öffentlichen Sektors zur Förderung und Regulierung von künstlicher Intelligenz (KI); sie ist daher mit der allgemeinen Regulierung von Algorithmen verwandt.Nemitz, Paul (2018): Constitutional democracy and technology in the age of artificial intelligence. In: Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. Band 376, Nummer 2133, S. 20180089. Bibcode:2018RSPTA.37680089N. . PMID 30323003.Cath, Corinne (2018): Governing artificial intelligence: ethical, legal and technical opportunities and challenges. In: Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. Band 376, Nummer 2133, S. 20180080. Bibcode:2018RSPTA.37680080C. . . PMID 30322996.Buiten, Miriam C. (2019): Towards Intelligent Regulation of Artificial Intelligence. In: European Journal of Risk Regulation. Band 10, Nummer 1, S. 41–59. .Erdélyi, Olivia J.; Goldsmith, Judy (2020): Regulating Artificial Intelligence: Proposal for a Global Solution. arXiv:2005.11072 cs.CY.Ebers, Martin (2020): Regulating AI and Robotics: Ethical and Legal Challenges. In: Algorithms and Law. Cambridge University Press. S. 37–99. ISBN 978-1-108-34784-6. Die regulatorische und politische Landschaft für KI ist ein aufkommendes Thema in den verschiedenen Rechtssystemen weltweit, einschließlich der Europäischen UnionSatariano, Adam (8. Dezember 2023): E.U. Agrees on Landmark Artificial Intelligence Rules - The agreement over the A.I. Act solidifies one of the world's first comprehensive attempts to limit the use of artificial intelligence. In: The New York Times. Archiviert aus dem Original am 9. Dezember 2023. Abgerufen am 9. Dezember 2023. (die über eine gesetzliche Regulierungsbefugnis verfügt) und in supranationalen Gremien wie dem IEEE, der OECD (die nicht über eine solche verfügen) und anderen.Tallberg, Jonas; Erman, Eva; Furendal, Markus; Geith, Johannes; Klamberg, Mark; Lundgren, Magnus (2023): Global Governance of Artificial Intelligence: Next Steps for Empirical and Normative Research. In: International Studies Review. . Seit 2016 wurde eine Reihe von Ethikrichtlinien für KI veröffentlicht, um die gesellschaftliche Kontrolle über die Technologie auch in Zukunft gewährleisten zu können.M. Héder (2020): A criticism of AI ethics guidelines. In: Információs Társadalom. Band 20, Nummer 4, S. 57–73. . S2CID 233252939. Eine Regulierung wird als notwendig erachtet, um KI einerseits zu fördern und andererseits die damit verbundenen Risiken zu managen. Neben der Regulierung müssen Organisationen, die KI einsetzen, eine zentrale Rolle bei der Entwicklung und dem Einsatz vertrauenswürdiger KI im Einklang mit den Grundsätzen einer solchen spielenEthics guidelines for trustworthy AI. Europäische Kommission. 2019. und Verantwortung übernehmen, um die Risiken zu minimieren.Curtis, Caitlin; Gillespie, Nicole; Lockey, Steven (2022): AI-deploying organizations are key to addressing 'perfect storm' of AI risks. In: AI and Ethics. Band 3, Nummer 1, S. 145–153. . . . PMID 35634256. Die Regulierung von KI durch Mechanismen wie Prüfungsausschüsse kann auch als sozialer Ansatz zur Lösung des KI-Kontrollproblems betrachtet werden.An Ethical Approach to AI is an Absolute Imperative, Andreas Kaplan. Abgerufen am 26. April 2021.Sotala, Kaj; Yampolskiy, Roman V (2014): Responses to catastrophic AGI risk: a survey. In: Physica Scripta. Band 90, Nummer 1, S. 018001. . .

Laut dem AI Index der Stanford University ist die Zahl der jährlich verabschiedeten Gesetze mit KI-Bezug in den 127 untersuchten Ländern von einem im Jahr 2016 auf 37 allein im Jahr 2022 gestiegen.Vincent, James (3. April 2023): AI is entering an era of corporate control. In: The Verge. Abgerufen am 19. Juni 2023.Artificial Intelligence Index Report 2023/Chapter 6: Policy and Governance (PDF; 1,7 MB), 2023. Abgerufen am 19. Juni 2023.

Hintergrund Experten und Befürworter der Bereiche verantwortungsvolle KI, KI-Ethik, Verbraucherschutz und Cybersicherheit haben mindestens seit den 1960er Jahren die Notwendigkeit von Leitplanken für die KI-Entwicklung betont.Arthur L. Samuel: Some Moral and Technical Consequences of Automation—A Refutation. In: Science. 1960, Band 132, Nummer 3429, S. 741–742 . 2017 forderte Elon Musk eine Regulierung für die Entwicklung von KI.Elon Musk Warns Governors: Artificial Intelligence Poses 'Existential Risk'. In: NPR.org. Abgerufen am 27. November 2017. Laut NPR war der Tesla-CEO „keineswegs begeistert“ eine Forderung nach einer staatlichen Kontrolle zu stellen, die sich auf seine eigene Branche auswirken könnte, glaubte aber, dass die Risiken eines völligen Verzichts auf eine Aufsichtsinstanz zu hoch seien: „Normalerweise werden Regulierungen so eingerichtet, dass es, sobald ein paar schlimme Dinge passieren, einen öffentlichen Aufschrei gibt, und viele Jahre vergehen bis eine Regulierungsbehörde eingerichtet wird, um diese Branche zu regulieren. Das dauert ewig. In der Vergangenheit war das zwar schlecht, aber nicht etwas, das eine wesentliche Gefahr für die Existenz der Zivilisation darstellte.“ Daraufhin äußerten sich einige Politiker skeptisch über die Sinnhaftigkeit der Regulierung einer Technologie, die sich noch in der Entwicklung befindet.Gibbs, Samuel (17. Juli 2017): Elon Musk: regulate AI to combat 'existential threat' before it's too late. In: The Guardian. Abgerufen am 27. November 2017. Sowohl auf Musk als auch auf die Vorschläge von Gesetzgebern der Europäischen Union vom Februar 2017, die eine Regulierung von KI und Robotik vorsahen, reagierte der CEO von Intel, Brian Krzanich, mit dem Argument, dass KI noch in den Kinderschuhen stecke und es zu früh sei, die Technologie zu regulieren.Kharpal, Arjun (7. November 2017): A.I. is in its 'infancy' and it's too early to regulate it, Intel CEO Brian Krzanich says. In: CNBC. Abgerufen am 27. November 2017. Anstatt zu versuchen, die Technologie selbst zu regulieren, schlugen einige Wissenschaftler vor, gemeinsame Normen zu entwickeln, einschließlich Anforderungen an die Prüfung und Transparenz von Algorithmen, möglicherweise in Kombination mit einer Art von Gewährleistungspflicht.Kaplan, Andreas; Haenlein, Michael (2019): Siri, Siri, in my hand: Who's the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. In: Business Horizons. Band 62, S. 15–25. . S2CID 158433736.

In einer Ipsos-Umfrage aus dem Jahr 2022 zeigte sich die Einstellung gegenüber KI je nach Land sehr unterschiedlich. 78 % der Chinesen, aber nur 35 % der Amerikaner stimmten zu, dass „Produkte und Dienstleistungen, bei denen KI zum Einsatz kommt, mehr Vorteile als Nachteile haben“. Eine Reuters/Ipsos-Umfrage aus dem Jahr 2023 ergab, dass 61 % der Amerikaner der Meinung sind, dass KI Risiken für die Menschheit birgt, während dies 22 % verneinten.Edwards, Benj (17. Mai 2023). Poll: AI poses risk to humanity, according to majority of Americans. Ars Technica. Abgerufen am 19. Juni 2023. In einer Fox News-Umfrage von 2023 hielten es 35 % der Amerikaner für „sehr wichtig“ und weitere 41 % für „einigermaßen wichtig“, dass die US-Regierung KI reguliert. 13 % hielten diesen Eingriff hingegen für „nicht sehr wichtig“ und 8 % für „überhaupt nicht wichtig“.Kasperowicz, Peter (1. Mai 2023): Regulate AI? GOP much more skeptical than Dems that government can do it right: poll. Fox News. Abgerufen am 19. Juni 2023.Fox News Poll In: Fox News. 2023. (PDF; 0,5 MB). Abgerufen am 19. Juni 2023.

Perspektiven Die Regulierung von künstlicher Intelligenz ist die Entwicklung von Strategien und Gesetzen des öffentlichen Sektors zur Förderung und Regulierung von KI.Barfield, Woodrow; Pagallo, Ugo (2018). Research handbook on the law of artificial intelligence. Cheltenham, UK: Edward Elgar Publishing. ISBN 978-1-78643-904-8. OCLC 1039480085. Eine Regulierung wird heute allgemein als notwendig erachtet, um sowohl die Entwicklung von KI zu fördern als auch die damit verbundenen Risiken zu managen.Wirtz, Bernd W.; Weyerer, Jan C.; Geyer, Carolin (2018): Artificial Intelligence and the Public Sector—Applications and Challenges. In: International Journal of Public Administration. Band 42, Nummer 7, S. 596–615. . . S2CID 158829602.Mantelero, Alessandro; Esposito, Maria Samantha (2021): An evidence-based methodology for human rights impact assessment (HRIA) in the development of AI data-intensive systems. In: Computer Law & Security Review. Band 41, S. 105561. . . S2CID 237588123. Die Überlegungen der öffentlichen Verwaltung und der Politik konzentrieren sich im Allgemeinen auf die technischen und wirtschaftlichen Auswirkungen sowie auf vertrauenswürdige und am Menschen orientierte KI-Systeme,Artificial intelligence in society. Paris: Organisation for Economic Co-operation and Development. 11. Juni 2019. ISBN 978-92-64-54519-9. OCLC 1105926611. obwohl auch die Regulierung künstlicher Superintelligenzen in Betracht gezogen wird.Kamyshansky, Vladimir P.; Rudenko, Evgenia Y.; Kolomiets, Evgeniy A.; Kripakova, Dina R. (2020): Revisiting the Place of Artificial Intelligence in Society and the State. In: Artificial Intelligence: Anthropogenic Nature vs. Social Origin, Advances in Intelligent Systems and Computing, Cham: Springer International Publishing, Bd. 1100, S. 359–364, , ISBN 978-3-030-39318-2, S2CID 213070224 Der grundlegende Regulierungsansatz konzentriert sich auf die Risiken und „kognitiven Verzerrungen“ (engl.: biases) von Algorithmen des maschinellen Lernens auf der Ebene der Eingabedaten, der Testung von Algorithmen und des Entscheidungsmodells. Er konzentriert sich außerdem auf die Erklärbarkeit der Ergebnisse.

Die Vorschläge zur Regulierung von KI betreffen sowohl die Kategorie des „Hard Law“ als auch die des „Soft Law“.Special Issue on Soft Law Governance of Artificial Intelligence: IEEE Technology and Society Magazine publication information. In: IEEE Technology and Society Magazine. Band 40, Nummer 4, C2. Dezember 2021. . Einige Rechtswissenschaftler haben festgestellt, dass Hard-Law-Ansätze zur Regulierung von KI mit erheblichen Herausforderungen verbunden sind.Marchant, Gary. "Soft Law" Governance of AI (PDF; 0,1 MB). AI Pulse. AI PULSE Papers. Abgerufen am 28. Februar 2023.Johnson, Walter G.; Bowman, Diana M. (Dezember 2021): A Survey of Instruments and Institutions Available for the Global Governance of Artificial Intelligence. In: IEEE Technology and Society Magazine. Band 40, Nummer 4, S. 68–76. . S2CID 245053179. Zu den Herausforderungen gehört, dass sich die Technologie schnell weiterentwickelt, was dazu führt, dass herkömmliche Gesetze und Vorschriften oft nicht mit den neuen Anwendungen und den damit verbundenen Risiken und Vorteilen Schritt halten können. Ebenso stellt die Vielfalt der KI-Anwendungen eine Herausforderung für die bestehenden Regulierungsbehörden dar, die oft nur über einen begrenzten Zuständigkeitsbereich verfügen. Als Alternative argumentieren einige Rechtswissenschaftler, dass Soft-Law-Ansätze zur KI-Regulierung vielversprechend sind, da Soft-Laws flexibler an die Bedürfnisse der aufkommenden und sich entwickelnden KI-Technologie und der im Entstehen begriffenen Anwendungen angepasst werden können. Allerdings mangelt es Soft-Law-Ansätzen oft an substantiellem Durchsetzungspotenzial.Sutcliffe, Hillary R.; Brown, Samantha (Dezember 2021): Trust and Soft Law for AI. In: IEEE Technology and Society Magazine. Band 40, Nummer 4, S. 14–24. . S2CID 244955938.