Rekursive Selbstverbesserung (, kurz RSI) bezeichnet ein Konzept, bei dem ein System künstlicher Intelligenz seine eigenen Fähigkeiten oder die Verfahren zu deren Verbesserung weiterentwickelt, sodass die Ergebnisse einer Verbesserung weitere Verbesserungen ermöglichen. Es wird insbesondere im Zusammenhang mit allgemeiner künstlicher Intelligenz und Superintelligenz diskutiert.
Geschichte Bereits 1955 wurde als Ziel der geplanten Dartmouth-Konferenz zur künstlichen Intelligenz genannt, Maschinen zu entwickeln, die sich selbst verbessern können. Die Vorstellung einer künstlichen Maschine, die ihre eigenen Fähigkeiten verbessert, wurde 1965 von Irving John Good im Zusammenhang mit einer „ultraintelligenten Maschine“ beschrieben. Good nahm dabei an, dass eine solche Maschine zunehmend leistungsfähigere Versionen ihrer selbst hervorbringen könnte und bezeichnete eine solche Entwicklung als „intelligence explosion“. 2003 formulierte Jürgen Schmidhuber mit der Gödelmaschine ein formales Modell für ein System, das sein eigenes Programm unter bestimmten Bedingungen selbst verbessern kann.
Konzept Bei rekursiver Selbstverbesserung verbessert ein künstliches System nicht nur seine Fähigkeiten, sondern auch die Mittel, mit denen es sich weiterentwickelt. Eine solche Verbesserung kann die Voraussetzungen für nachfolgende Verbesserungen schaffen. Der Prozess bildet damit eine Rückkopplungsschleife, in der eine verbesserte Version des Systems eine noch leistungsfähigere Version hervorbringen kann.
Je nach Ausgestaltung können dabei auch die eigene Software oder andere Bestandteile des Systems verändert werden. Schmidhubers Modell der Gödelmaschine beschreibt beispielsweise ein selbstreferenzielles System, das sein eigenes Programm unter bestimmten Bedingungen durch eine verbesserte Version ersetzen kann. In theoretischen Szenarien kann ein solcher Prozess zu aufeinanderfolgenden, zunehmend leistungsfähigen Versionen führen.
Forschung Aktuelle KI-Systeme können Teile von Forschungs- und Entwicklungsprozessen automatisieren, während eine vollständig autonome rekursive Selbstverbesserung weiterhin Gegenstand der Forschung ist. OpenAI berichtet über den Einsatz von KI-Agenten zur Beschleunigung der eigenen Forschung und bezeichnet vollständig autonome rekursive Selbstverbesserung weiterhin als nicht erreicht. Google DeepMind untersucht mit AlphaEvolve die automatisierte Entdeckung und Optimierung von Algorithmen mithilfe großer Sprachmodelle und automatisierter Bewertung. Anthropic berichtet ebenfalls über eine zunehmende Beteiligung seiner Modelle an Softwareentwicklung und Forschung. Die Entwicklung eigener Nachfolgesysteme durch KI-Systeme wird von Anthropic als weitergehende Form der Automatisierung beschrieben, die bislang nicht erreicht sei.
Literatur
Einzelnachweise
Kategorie:Künstliche Intelligenz