In Search of “Laws of Robotics”

„Wie beim Auto, das vor Markteinführung Bremsen und Airbags erhält, müssen auch in KI-Systeme Sicherheitsvorkehrungen eingebaut werden, bevor wir sie in den Alltag entlassen“, sagt cep-Digitalexperte Anselm Küsters, der die Studie mit Manuel Wörsdörfer, Professor für Computerethik an der US-amerikanischen Universität von Maine, verfasst hat. Die Autoren fordern eine verfassungsähnliche Regulierung, um Missbrauch zu verhindern. Das Konzept der Konstitutionellen KI sieht vor, ethische Prinzipien direkt in KI-Funktionsweisen einzubetten. „Nicht alle Technologieentwickler verfolgen die gleichen Ziele“, warnt Küsters. „Während einige Akteure wie Elon Musk mit xAI eine KI ohne Grenzen anstreben, halten wir Regeln und Grenzen auch für KI-Modelle für unerlässlich.“

Das Leitbild des „Ordoliberalismus 2.0“ biete einen Rahmen für die Entwicklung konstitutioneller Regeln. Dieser Ansatz erfordere stabile und vorausschauende Regeln zur Datensparsamkeit, zum Schutz vor Missbrauch, zur Transparenz von Entscheidungen und zum Schutz marginalisierter Gruppen. Auch die Politik sei gefordert: Bürgerbeteiligungen sollten dafür sorgen, dass der Rahmen für KI-Systeme gesellschaftlich legitimiert wird. „KI wird das Leben von Millionen Menschen beeinflussen. Deshalb müssen Regeln für ihren Einsatz von der Gesellschaft mitbestimmt werden“, sagt Wörsdörfer.

„KI kann uns schneller und effizienter ans Ziel bringen, aber ohne die richtigen Schutzvorkehrungen bringt sie uns in Gefahr“, sagt Küsters. „Wir müssen jetzt handeln, damit dieser Motor in Zukunft sicher, ethisch und im Einklang mit demokratischen Werten läuft.“ Technisch könne dies durch sogenannte System Prompts oder Methoden wie „non-fine-tunable learning“ sichergestellt werden.