01RAG
Chunking, Embeddings (OpenAI text-embedding-3, Voyage, Cohere, BGE, E5), Vektordatenbanken (pgvector, Qdrant, Weaviate, Pinecone, Milvus, Chroma, FAISS), Hybrid-Suche (BM25 und Vektor, RRF, Elasticsearch, OpenSearch), Reranking (Cohere, bge-reranker), ANN-Indizes (HNSW, IVFFlat), Recall@k, LlamaIndex
02Dokumente und OCR
PDF-Parsing (Docling, Unstructured, PyMuPDF), OCR (Tesseract, AWS Textract, Azure Document Intelligence)
03Agenten
Tool Calling, Agentenschleife, Leitplanken, Checkpointing, Human-in-the-Loop, Multi-Agent-Muster, MCP (Model Context Protocol, eigene Server mit FastMCP), LangGraph und LangChain, LlamaIndex, Pydantic AI, DSPy, Claude Agent SDK, OpenAI Agents SDK, CrewAI, AutoGen, Temporal
04Observability
Langfuse, LangSmith, Arize Phoenix, Helicone, OpenTelemetry, Traces und Spans, Kostenmessung
05Eval-Werkzeuge
promptfoo, Ragas, DeepEval, Braintrust
06Guardrails
Guardrails AI, NeMo Guardrails, Llama Guard, PII-Maskierung (Presidio, NER)
07Modellstrategie
Modell-Routing, Eskalation, Batch-API, Fine-Tuning gegen RAG
08Fine-Tuning
LoRA und QLoRA, PEFT, SFT, Distillation, Einordnung Verhalten gegen Wissen
09Cloud-KI
AWS Bedrock, Azure OpenAI, Google Vertex AI, Groq, lokale Modelle (Ollama, vLLM, Hugging Face, Llama, Mistral)
10Demo-Oberflächen
Streamlit, Gradio
11Low-Code-Automatisierung
n8n, Make, Zapier, Einordnung und Grenzen