Who is accountable when Al agents hire other Al agents?
Sieben Jahre haben wir uns mit digitaler Identität in der Blockchain Welt beschäftigt. Seit vier Monaten erforschen wir eine Frage, die noch schwieriger ist: Wer trägt Verantwortung, wenn KI Agenten selbstständig andere KI Agenten beauftragen?
Mitte dieses Jahres wurde unser Forschungsprojekt bei galaniprojects im Rahmen der Forschungszulage anerkannt. Seitdem arbeiten wir an einem Problem, von dem ich glaube, dass es mit der nächsten Entwicklungsstufe autonomer KI Agenten sehr an Bedeutung gewinnen wird.
Die Geschichte dahinter begann 7 Jahre früher.
In dieser Zeit habe ich auch mit Ingo Ruebe, dem Initiator und Architekt des KILT Protocols, intensiv an Fragestellungen rund um digitale Identität gearbeitet.
Heute übernimmt Ingo die wissenschaftliche Leitung unseres Forschungsprojekts. Denn mit autonomen KI Agenten verändert sich die Fragestellung fundamental.
Was passiert, wenn mein Agent nicht mehr nur die Tools benutzt, die ich ihm gegeben habe?
Was passiert, wenn er selbst feststellt: „Für diese Aufgabe brauche ich einen anderen Agenten.“
- Er findet einen spezialisierten Agenten auf einem Marktplatz.
- Er beauftragt ihn.
- Vielleicht bezahlt er ihn.
- Der Agent beauftragt wiederum einen weiteren Agenten.
Am Ende entsteht ein Schaden, wer ist dann verantwortlich?
- Der Mensch, der den ersten Agenten gestartet hat?
- Der Betreiber des ersten Agenten?
- Der Agent, der den Sub-Agenten gewählt hat?
- Der Anbieter des Sub-Agenten?
- Oder niemand eindeutig?
Digitale Identität allein reicht nicht aus. Wir können wissen, wer ein Agent ist, und trotzdem nicht wissen, wer für sein Handeln wirtschaftlich einstehen muss.
Auch Reputation löst das Problem nicht vollständig. Sie kann bei der Auswahl eines Agenten helfen. Sie kompensiert aber keinen entstandenen Schaden und entscheidet keinen Konflikt.
Damit verschiebt sich für uns die zentrale Forschungsfrage: Von Identity zu Accountability.
In unserem Forschungsprojekt untersuchen wir, ob sich für offene Multi-Agenten-Märkte Mechanismen entwickeln lassen, die drei Dinge miteinander verbinden:
- Auswahl und Vertrauen
- Accountability
- Schadenskompensation
Dafür kombinieren wir spieltheoretische Modellierung, formale Spezifikation, prototypische Implementierung und Multi-Agenten-Simulation.
Der große Teil der Forschungsarbeit wird bei galaniprojects geleistet. Die wissenschaftliche Leitung liegt bei Ingo Ruebe. Für den juristischen Forschungsteil arbeiten wir mit BlackVogel und Mariana de la Roche zusammen.
In den nächsten Monaten möchte ich hier immer wieder Einblicke in diese Forschungsarbeit geben.
Denn nach sieben Jahren Arbeit an digitaler Identität beschäftigt mich heute eine neue Frage: Identity beantwortet: Wer bist du? Accountability muss beantworten: Wofür stehst du ein?
Die zweite Frage könnte für das entstehende Agentic Web entscheidend werden.