RAG (Retrieval-Augmented Generation) vs Uzun bağlam (1M+ token) Vergleich

# OpenAI Responses API — File Search (verwaltetes RAG-Tool)
# Stand September 2026, offizielle Dokumentation: platform.openai.com/docs/guides/tools-file-search
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-6-astra",
    input="Wie hoch war die Nettogewinnmarge im Q3-Finanzbericht?",
    tools=[{
        "type": "file_search",
        "vector_store_ids": ["vs_abc123"],
    }],
)

print(response.output_text)

# Dieses gehostete Tool übernimmt Embedding + Indexierung + Retrieval auf OpenAI-Seite
# (funktioniert ohne eigenen Code). Kosten: $2.50 pro 1.000 Tool-Calls
# + Storage $0.10/GB/Tag (erstes 1 GB kostenlos). Quelle: platform.openai.com/docs/pricing

# Claude API — 1-Mio.-Token-Kontext mit Prompt Caching günstiger machen
# Quelle: platform.claude.com/docs/en/build-with-claude/prompt-caching
import anthropic

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": full_knowledge_base_text,  # z. B. 800K Token interne Dokumentation
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": "Welche Schritte sind im Onboarding-Prozess verpflichtend?"}],
)

# Erster Aufruf: wird zum vollen Input-Preis berechnet (Cache Write).
# Folgeaufrufe (innerhalb kurzer Zeit, z. B. 5 Min.): Cache-Read-Preis gilt
# — ein Bruchteil des Basis-Input-Preises (siehe offizielle Preisseite).