Was wäre, wenn Al nicht die Menschheit angreifen würde, sondern die Infrastruktur, von der die Menschheit abhängig ist?
Wie könnte KI der Menschheit wirklich gefährlich werden? Sicherlich nicht durch Killerroboter, aber viel banaler:
Durch einen Fehler, eine falsch verstandene Aufgabe, eine selbsterstellte Aufgabe, oder ein Experiment, das außer Kontrolle gerät.
Oder durch KI Agenten, die beginnen, digitale Infrastruktur in einem Ausmaß anzugreifen, das Menschen nicht mehr rechtzeitig kontrollieren können.
Was wäre beispielsweise, wenn hochautonome KI Systeme eines Tages große Teile des Internets lahmlegen könnten?
Wir würden nicht einfach gemütlich in das Jahr 1980 zurückkehren. Denn die Welt von heute funktioniert nicht mehr wie 1980.
Unsere Welt hängt am Netz:
- Produktion
- Logistik
- Energieversorgung
- Banken
- Kommunikation
- Krankenhäuser
- Medikamentenversorgung
- Verwaltung
Ein großer Teil unserer physischen Welt wird inzwischen durch digitale Systeme koordiniert. Ein großflächiger und länger anhaltender Ausfall digitaler Infrastruktur könnte Kaskadeneffekte weit über das Internet hinaus auslösen.
Und plötzlich bekommt die aktuelle Diskussion der führenden AI-Bosses für mich eine andere Bedeutung.
Dario Amodei warnt inzwischen öffentlich davor, dass ein Schwarm hochentwickelter KI Agenten innerhalb von 6–12 Monaten theoretisch in der Lage sein könnte, große Teile des Internets über ein persistentes Botnetz zu kontrollieren.
Er fordert, die Entwicklung an der Frontier zu verlangsamen.
- Unabhängige Evaluatoren
- Gemeinsame Safety-Standards
- Internationale Koordination
Auch OpenAI unterstützt inzwischen zusätzliche unabhängige Evaluation und eine Diskussion über eine koordinierte Verlangsamung.
Die fundamentalere Frage für mich lautet:
Wie bauen wir kritische Infrastruktur so souverän und resilient, dass sie auch dann funktioniert, wenn das Internet ausfällt, oder autonome KI Systeme unsere digitale Infrastruktur bedrohen?