快速開始
沿用你習慣的 agent —— Claude Code、OpenClaw Hermes、Cline、Aider、Continue,或任何支持 OpenAI 的工具。指向一個 base URL、填入密鑰,就能在共享 GPU 上的開放模型裡編程。
你的 agent → api.openalchemy.io → Grid 上的開放權重模型
三步
登錄控制台,創建一個項目並生成 API 密鑰。免費額度無需信用卡。
在 agent 設置裡填入 base URL 與 API 密鑰 —— OpenAI 兼容的 URL,或給 Claude Code 用的 Anthropic 兼容 URL。
選擇一個模型 ID,例如 llama-3.1-8b-instruct,即可發送請求。隨時切換模型,無需改動代碼。
兩種連接方式
大多數 agent 說 OpenAI API,Claude Code 說 Anthropic Messages API。OpenAlchemy 兩者都開放,所以無論你的工具用哪種,同一把密鑰都能用。
把這個 base_url 和密鑰填進 OpenAI SDK 或任何 OpenAI 兼容 agent —— Hermes、Cline、Aider、Continue、Codex CLI。
將它設為 ANTHROPIC_BASE_URL,Claude Code 就會把 Messages API 調用直接發往 OpenAlchemy,中間無需代理。
AGENT 配置
每段代碼都使用你創建的 OPENALCHEMY_API_KEY 和示例模型 llama-3.1-8b-instruct。可替換為目錄中的任意模型。
Anthropic 的終端原生編程 agent。通過 Anthropic 兼容端點接入。
# Claude Code speaks the Anthropic Messages API — point it at
# OpenAlchemy's Anthropic-compatible endpoint and run as usual.
export ANTHROPIC_BASE_URL="https://api.openalchemy.io"
export ANTHROPIC_AUTH_TOKEN="$OPENALCHEMY_API_KEY"
export ANTHROPIC_MODEL="llama-3.1-8b-instruct"
claude把 Hermes 的 OpenAI 兼容 provider 指向 OpenAlchemy,並選擇模型。
# Hermes uses an OpenAI-compatible provider. Export the base URL and
# key, then select the model inside Hermes.
export OPENAI_BASE_URL="https://api.openalchemy.io/v1"
export OPENAI_API_KEY="$OPENALCHEMY_API_KEY"
# Provider: OpenAI-compatible
# Base URL: https://api.openalchemy.io/v1
# Model: llama-3.1-8b-instruct
hermesVS Code 裡的自主編程器(以及 Roo Code 分支)。使用「OpenAI Compatible」provider。
# VS Code → Cline (or Roo Code) settings → API Provider:
API Provider = OpenAI Compatible
Base URL = https://api.openalchemy.io/v1
API Key = $OPENALCHEMY_API_KEY
Model ID = llama-3.1-8b-instruct終端結對編程工具。Aider 通過 OPENAI_API_BASE 路由 openai/llama-3.1-8b-instruct。
export OPENAI_API_BASE="https://api.openalchemy.io/v1"
export OPENAI_API_KEY="$OPENALCHEMY_API_KEY"
aider --model openai/llama-3.1-8b-instruct開源 IDE 助手。添加一個帶自定義 apiBase 的 openai provider。
# ~/.continue/config.yaml
models:
- name: OpenAlchemy
provider: openai
apiBase: https://api.openalchemy.io/v1
apiKey: ${OPENALCHEMY_API_KEY}
model: llama-3.1-8b-instruct任何基於 OpenAI SDK 的工具(含 Codex CLI)都用同一個 base_url + 密鑰連接。
from openai import OpenAI
client = OpenAI(
base_url="https://api.openalchemy.io/v1",
api_key="$OPENALCHEMY_API_KEY",
)
resp = client.chat.completions.create(
model="llama-3.1-8b-instruct",
messages=[{"role": "user", "content": "Write a haiku about distributed GPUs."}],
)
print(resp.choices[0].message.content)
# Codex CLI: add a custom provider with the same base_url + key.常見問題
是的。/v1 入口鏡像了 OpenAI REST API —— 聊天補全、嵌入、音頻等等,所以現有的 OpenAI SDK 和工具只需改 base_url 和密鑰即可運行。
可以。OpenAlchemy 同時開放了 Anthropic 兼容端點。把 ANTHROPIC_BASE_URL 設為 https://api.openalchemy.io,ANTHROPIC_AUTH_TOKEN 設為你的密鑰即可,無需代理。
覆蓋各模態的開放權重模型 —— 聊天用的 Llama、Qwen、DeepSeek、Gemma,以及 Whisper、嵌入、重排序等。用 GET /v1/models 列出,並在請求中傳入 ID。
不需要。免費額度讓你無需信用卡創建一個項目並運行前 1,000 次請求。
用量、配額與請求日誌按項目劃分;速率限制與訪問控制按域名生效。你的密鑰會自動攜帶該範圍。
流式響應(SSE)正在逐步上線 —— 部分端點目前對 stream:true 返回 501。非流式請求當前已完全支持。
開始構建
創建一個免費項目,取得密鑰,把你的編程 agent 指向運行在 Grid 上的開放模型。