ChatQ Assist
DSGVO-konformer LLM-Chatbot für KMUs: RAG-Pipeline, Streaming-Responses, intelligenter Handoff an menschliche Agenten. GDPR-compliant LLM chatbot for SMBs: RAG pipeline, streaming responses, intelligent handoff to human agents.
Intelligenter Kundensupport mit GPT-4Intelligent customer support with GPT-4
ChatQ Assist nutzt Large Language Models und Retrieval-Augmented Generation (RAG), um Kundenanfragen automatisch zu beantworten — auf Basis der tatsächlichen Unternehmensdokumente. ChatQ Assist uses large language models and Retrieval-Augmented Generation (RAG) to answer customer questions automatically — grounded in the actual company documents.
Das System nutzt pgvector für semantische Suche mit Confidence-Scoring. Fällt die Confidence unter einen Schwellwert, übergibt der Bot sauber an einen menschlichen Agenten. The system uses pgvector for semantic search with confidence scoring. When confidence falls below threshold, the bot hands off cleanly to a human agent.
RAG-Pipeline
- Dokument-Ingestion — PDFs, Webseiten, Knowledge-Base.Document ingestion — PDFs, web pages, knowledge base.
- Embedding Generation — Vektorisierung über OpenAI-Embeddings.Embedding generation — vectorization via OpenAI embeddings.
- Semantic Search — pgvector findet die relevantesten Chunks.Semantic search — pgvector finds the most relevant chunks.
- LLM Response — Streaming-Antwort mit Quellenangabe.LLM response — streamed answer with citations.
Tech-Stack
- Java 21 · Spring Boot 3.2 · Spring AI
- Angular 17 · TypeScript · RxJS
- PostgreSQL + pgvector
- OpenAI GPT-4 · Embeddings
- Docker · Kubernetes-ready