Vertrauen in KI: Wie unsicherheitsbewusste Sprachmodelle zuverlässige Agenten ermöglichen

Agentensysteme gelten als neuer Standard im Bereich generativer KI. Doch ihre Anwendung in der Praxis scheitert oft an mangelnder Zuverlässigkeit – bedingt durch die Selbstüberschätzung großer Sprachmodelle und sogenannte „Halluzinationen“.

In diesem Vortrag zeigen wir wie Unsicherheitsquantifizierung (Uncertainty Quantification UQ) dabei hilft die innere Unsicherheit von LLMs messbar zu machen – und damit vertrauenswürdigere Ergebnisse zu erzielen.

Wir stellen praxisnahe UQ-Methoden vor und demonstrieren wie unsicherheitsbewusste LLM-Pipelines zu robusteren und zuverlässigeren GenAI-Anwendungen führen – insbesondere bei Retrieval-Augmented Generation (RAG) und agentenbasierten Architekturen.

Lerne wie du mit UQ gezielt Unsicherheiten in LLMs erkennst und kontrollierst – und so die Basis für vertrauenswürdige KI-Agenten schaffst.

Mit Jörn Malich: Domain Engineering Lead GenAI & NLP bei Schwarz IT KG
https://www.linkedin.com/in/jörn-malich-438aa263

You may also like the following events from KI Katapult:

• Next month, 6th September, 03:00 pm, Reparatur-Treff mit Café in Werder