RAG (Retrieval-Augmented Generation) vs Uzun bağlam (1M+ token) 对比

# OpenAI Responses API — File Search（托管式 RAG 工具）
# 截至 2026 年 9 月的官方文档：platform.openai.com/docs/guides/tools-file-search
from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="gpt-6-astra",
    input="Q3 finansal raporunda net kâr marjı neydi?",
    tools=[{
        "type": "file_search",
        "vector_store_ids": ["vs_abc123"],
    }],
)

print(response.output_text)

# 这个托管工具由 OpenAI 一方负责管理 embedding + 索引 + retrieval
# （无需编写相关代码）。成本：每 1000 次工具调用 $2.50
# + 存储费 $0.10/GB/天（首 1GB 免费）。来源：platform.openai.com/docs/pricing

# Claude API — 用 prompt caching 降低 1M token 上下文的成本
# 来源：platform.claude.com/docs/en/build-with-claude/prompt-caching
import anthropic

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": full_knowledge_base_text,  # 例如：80万 token 的内部文档
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": "Onboarding sürecinde hangi adımlar zorunlu?"}],
)

# 首次调用：按完整 input 价格计费（cache write）。
# 后续调用（短时间内，例如 5 分钟）：适用 cache-read 价格
# ——为 base input 价格的一小部分（详见官方定价页面）。