Drei Säulen für KI-Agenten in Produktion: Audit, Evaluation, Budget

Deutsch
Dieser Vortrag wird auf Deutsch gehalten. / This lecture will be held in German.

KI-Agenten schreiben ins CRM, telefonieren mit Kunden und verursachen laufend Kosten. Damit sie das in Produktion dürfen, brauchen sie drei Säulen, die keine klassische Internal Developer Platform mitbringt.

  • Auditierbar: Jede Aktion hängt an einer Identität und ist lückenlos nachvollziehbar.
  • Evaluierbar: Nicht-deterministisches Verhalten wird mit generierten Multi-Turn- und Adversarial-Tests als Quality Gate in der CI/CD-Pipeline geprüft.
  • Budgetiert: Kosten pro Agent werden gemessen und begrenzt, bevor Retries und Tool-Schleifen eskalieren.
Der Talk zeigt, wie AI Platform Engineering diese drei Säulen in die Plattform bringt, am Beispiel eines Telefon-Agenten im Vertrieb.

Bas Cancrinus Bas Cancrinus ist Tech Lead der Business Line Software Services and Application Platforms bei netgo und verantwortet dort AI Platform Engineering und Partnerschaften. Mit seinem Team baut er die netgo Application Platform, auf der Unternehmen KI-Agenten und Anwendungen entwickeln, evaluieren und betreiben. Aus über 20 Jahren in Softwarearchitektur und Engineering bringt er eine Überzeugung mit: Ob ein Agent produktiv arbeiten darf, entscheidet die Plattform darunter.