| Kursbeschreibung (description): |
Teilnehmer, die RAG-Systeme implementieren, lernen ein System End-to-End zu konzipieren, aufzubauen und zu betreiben, sodass es konsistente und nachvollziehbare Antworten aus eigenen Quellen liefert. Inhalte: Dokumenten-Pipelines/Embeddings/Vektorsuche, Prompt/Response, Evaluierung, Sicherheit und Integration. USP: tool-agnostische Patterns, ISMS-Beispiel (ISO 27001, DORA, NIS2, CRA; keine Rechtsberatung) sowie Prototyp plus Checklisten/Blueprints für Skalierung (Datenzugriff, Governance, Monitoring).
|
|
| Zielgruppe (target group): |
Das Training AI340 RAG System Implementer richtet sich an:
- (KI )Entwickler:innen, ML/AI Engineers
- Software Architekt:innen / Tech Leads
- IT und Compliance Verantwortliche mit technischem Hintergrund (z. B. ISMS Teams)
- Plattform /MLOps Rollen, die RAG Systeme betreiben oder integrieren
|
|
| Voraussetzungen (requirements): |
Um dem Lerntempo und den Inhalten des Trainings AI340 RAG System Implementer gut folgen zu können, sind folgende Vorkenntnisse erforderlich:
- Grundkenntnisse in Python
- Basisverständnis von LLMs
- Für die Übungen: Entwicklungsumgebung (Notebook/IDE), grundlegende Toolchain (z. B. Git)
|
|
| Ziele (objectives): |
Nach dem Kurs AI340 RAG System Implementer können Teilnehmer ein RAG-System architektonisch sauber entwerfen (Bausteine, Datenfluss, Verantwortlichkeiten), unterschiedliche Datenquellen robust anbinden und indexierbar machen (Chunking, Metadaten, Versionierung), die Retrieval-Qualität systematisch verbessern (z. B. Re-Ranking, Filter, Query-Optimierung), RAG-Prompts so gestalten, dass Antworten konsistent, quellenbasiert und nutzbar sind, eine Evaluierungs- und Betriebslogik etablieren (Testsets, Monitoring, Regression), Sicherheits- und Governance-Leitplanken integrieren (Berechtigungen, Logging, Guardrails) sowie einen Prototyp als Grundlage für Pilotierung und Produktivsetzung liefern.
|
|
| Preis und Dauer (price and duration): |
Dauer (duration): 3 Tage
Preis (price): 2450,- Euro zzgl. MwSt.
Eine Druckansicht dieses Workshops finden Sie hier.
|
|
| Termine (dates): |
Dieser Workshop findet an folgenden Terminen statt:
|
|
|
| Inhalte (agenda): |
- Grundlagen & Architektur eines RAG‑Systems
- RAG Prinzip:
- Retrieval vs. Generierung
- typische Fehlerbilder (z. B. Halluzinationen, falsches Grounding)
- RAG Architekturbausteine: Ingestion → Index → Retrieval → Prompting → Answering
- Modell /LLM Einsatz
- Auswahlkriterien
- Kontextfenster
- Kosten-/Latenz-Trade offs
- Prompt Engineering für RAG:
- Rollen
- Templates
- Zitations-/Quellennachweise
- Antwortformate
- Datenquellen, Indexierung & Retrieval Qualität
- Datenquellen anbinden (z. B. Dokumente, Wikis, Ticketsysteme, Richtlinien) - Konzepte & Patterns
- Chunking/Strukturierung, Metadaten, Zugriffskonzepte (inkl. Berechtigungen)
- Embeddings & Vektorsuche:
- Grundprinzipien
- Hybrid Search / Re Ranking (wann sinnvoll)
- Datenqualität & Compliance Basics:
- PII/Datenschutz
- Provenienz
- Versionierung
- Lösch-/Aufbewahrungslogik
- Implementierung, Betrieb & Absicherung
- Implementierung eines Prototyps (End to End) inkl. UI/Chat Integration oder API Service Pattern
- Evaluierung:
- Testsets/“Golden Set“
- Offline Checks
- Qualitätsmetriken
- Regression Tests
- Trustworthiness:
- Quellenbezug
- Confidence Signale
- „Don’t know“-Strategien
- Wissensvalidierung
- Security & Governance:
- Prompt Injection Risiken
- Content-/Policy Checks
- Logging/Auditability
- Erweiterungen:
- Agent Workflows
- Knowledge Augmentation
- Multimodale Daten
- Praxisanteil: Aufbau und Iteration eines RAG‑Prototyps, angepasst an ein Beispiel‑Szenario, inkl. Abschlussdemo.
|
|
|
