Skip to content

Anthropic (Claude)

TL;DR

bash
ONGRID_ANTHROPIC_API_KEY=sk-ant-...
ONGRID_ANTHROPIC_MODEL=claude-sonnet-4-6     # default
ONGRID_ANTHROPIC_BASE_URL=                   # optional; relay / regional endpoint

Provider-ID: anthropic. SDK-Adapter: native Anthropic Messages API (via den eino Anthropic-Client unter internal/pkg/llm/).

Umgebungsvariablen

VarDefaultNotizen
ONGRID_ANTHROPIC_API_KEYLeer = Provider aus dem Katalog gedroppt
ONGRID_ANTHROPIC_MODELclaude-sonnet-4-6Das verwendete Modell, wenn kein Per-Call-Override gesetzt ist
ONGRID_ANTHROPIC_BASE_URL(Anthropic-API-Default)Override für Relays / regionale Endpunkte
ONGRID_ANTHROPIC_MODELSclaude-opus-4-7,claude-sonnet-4-6,claude-haiku-4-5Komma-getrennt; das geschlossene Set, das der SPA-Picker zeigt

Alle vier werden beim ersten Boot in system_settings.llm.anthropic_* via SetIfAbsent geseedet — Re-Boots überschreiben nie Operator-Edits in der Settings-UI.

Standardkatalog

Out of the Box zeigt der Modell-Picker diese drei Claude-Modelle:

  • claude-opus-4-7 — das Frontier-Modell. Verwenden für harte Grundursachen-Pässe, wo die marginale Genauigkeit die Kosten schlägt.
  • claude-sonnet-4-6 — der Default. Ausgewogen Kosten / Qualität; was der Chat-Picker vorauswählt.
  • claude-haiku-4-5 — das günstige. Empfohlen für den RCA-Pass-2-strukturierten-Extraktor und für Translate-Aufrufe — kurze Prompts, kurze Antworten, keine Tool-Loop.

Editieren Sie die Liste auf der /settings/llm-Seite der SPA oder durch Überschreiben von ONGRID_ANTHROPIC_MODELS beim Boot.

BaseURL-Override

bash
ONGRID_ANTHROPIC_BASE_URL=https://api.anthropic-relay.example.com/v1

Verwenden Sie dies für:

  • Corporate-Relay-Proxies (die Anfrage verwendet weiterhin Ihren Anthropic-Key — das Relay ist transparent).
  • Regionale Endpunkte — Anthropic veröffentlicht heute keine mehreren Regionen, aber der Knopf ist hier für Parität mit anderen Providern.

Die Default-Base-URL ist in cmd/ongrid/main.go:507 verdrahtet:

go
BaseURL: firstNonEmpty(cfg.LLM.Anthropic.BaseURL, "https://api.anthropic.com/v1"),

Anthropic zum Default machen

bash
ONGRID_LLM_DEFAULT_PROVIDER=anthropic

Oder aus der SPA: /settings/llm → „Default provider" Radio.

Der Default-Provider-Knopf kontrolliert, was Chat() verwendet, wenn kein Per-Call-Provider gepinnt ist (der RCA-Worker, Translate, der Home-Page-Chat, wenn nichts ausgewählt ist). Siehe Routing für den Dynamic-Default-Mechanismus, der dies ohne Restart in Kraft treten lässt.

Per-Call-Auswahl

Der Modell-Picker der Chat-UI schreibt sowohl provider als auch model in das Chat-Send-Envelope. Der Router (RoutingChatModel.pick) nimmt die WithProvider(id) eino-Option:

go
resp, err := chatModel.Generate(ctx, msgs,
    model.WithModel("claude-opus-4-7"),
    llm.WithProvider("anthropic"),
)

Eigenheiten

  • Stop-Reasons — Anthropic gibt sein eigenes Stop-Reason-Vokabular zurück (end_turn, tool_use, max_tokens). Der Ongrid-Adapter mappt diese auf den eino-standard FinishReason, sodass Downstream-Code nicht verzweigen muss.
  • Tool-Use — Anthropics Tool-Use-API verwendet Content-Blocks, nicht die OpenAI-flach-tool_calls-Form. Der Adapter macht die Übersetzung transparent; Sie schreiben Tools gleich, unabhängig vom Provider.
  • System-Messages — Claude nimmt einen einzelnen system-Parameter (String), keine vorangestellte role:system-Message. Der Adapter merget mehrere System-Messages mit \n\n-Separatoren vor dem Senden.

Siehe auch

  • Modelle-Übersicht — wie der Katalog zusammenkommt.
  • RoutingWithProvider, dynamische Defaults.
  • Budget — Per-Tag-Token-Caps, die global über Provider hinweg gelten.