… in der Probezeit kamen die Uberraschungen.
Wir haben den perfekten KI-Kollegen ausgeschrieben. Dann kam das Vorstellungsgespräch.
Wir haben einen ziemlich anspruchsvollen neuen Kollegen gesucht.
- Einen Sparringspartner für Spezifikationen.
- Einen blitzschnellen Junior Developer.
- Einen strengen Reviewer.
- Und einen sehr fleißigen Dokumentierer.
Alles in einer Person!
Eine Kandidatin hat sich gemeldet: Die KI.
Auf dem Papier sieht sie hervorragend aus.
- Schnell.
- Verfügbar.
- Kennt unzählige Technologien.
- Schreibt Code, Tests und Dokumentation in einer Geschwindigkeit, die kein Mensch erreichen kann.
Wir nehmen sie, und dann beginnt die „Probezeit“. Plötzlich stellen wir fest:
- Sie fragt nicht immer nach, wenn etwas unklar ist.
- Sie trifft stattdessen Annahmen und arbeitet weiter.
- Sie kann sehr überzeugend falsch liegen.
- Sie verliert bei großem Kontext frühere Entscheidungen oder die ursprüngliche Intention.
Und sie versteht oft nicht automatisch, was wir eigentlich meinen. Sie optimiert zunächst das, was wir gesagt haben.
Damit fangen die Probleme an: Allerdings, das Problem ist nicht, dass KI schlecht ist, das Problem sind oft unsere Erwartungen an KI.
Wir behandeln ein probabilistisches System manchmal so, als hätten wir einen sehr erfahrenen Mitarbeiter eingestellt, der Fachbereich, Architektur, Unternehmenshistorie und unausgesprochene Erwartungen automatisch versteht.
Das tut er nicht. Deswegen beginnt die Zusammenarbeit mit KI bei Hingepoint nicht mit Coding.
Sie beginnt mit Erwartungsmanagement.
- Was kann die KI zuverlässig übernehmen?
- Wo kennen wir ihre Grenzen?
- Wann darf sie selbstständig weiterarbeiten?
- Wann muss sie stoppen und einen Menschen fragen?
- Und wofür bleibt der Mensch verantwortlich?
Je leistungsfähiger unsere KI-Systeme werden, desto wichtiger wird aus meiner Sicht diese Klarheit.
Denn Autonomie ohne Erwartungsklarheit ist keine Produktivität. Sie ist nur Geschwindigkeit mit erhöhtem Risiko.
Vielleicht sollten wir deshalb vor dem nächsten KI Agenten nicht zuerst fragen:„Was kann er alles?“
Sondern: „Was erwarten wir eigentlich von ihm, und was ausdrücklich nicht?“