現已上線
Meta

llama-3.1-8b

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...

TextToolsOpen Weights32K
輸入免費
輸出免費
上下文32K
端點openai

能力

工具結構化

模態

輸入
text
輸出
text

快速統計

上下文視窗32K
最大輸出32K
模式chat
分詞器Llama3
知識截止2023

效能

正在載入效能資料...

支援的參數

參數始終預設值
frequency_penalty--
logit_bias--
max_tokens-
min_p--
presence_penalty--
repetition_penalty--
response_format--
seed-
stop-
structured_outputs--
temperature-
tool_choice--
tools--
top_k--
top_p-
§ 01

價格

輸入價格$0.00/每百萬 tokens
輸出價格$0.00/每百萬 tokens
上下文視窗32K tokens
相容端點openai
供應商Meta
§ 02

從您的程式碼呼叫 llama-3.1-8b

將任何 OpenAI 相容 SDK 指向 UnoRouter,並以名稱請求模型。請將 YOUR_API_KEY 換成您儀表板上的真實金鑰。

bash
curl https://api.unorouter.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.1-8b",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

登入以自動填入 API 金鑰

§ 03

常見問題

llama-3.1-8b 每百萬 tokens 的費用是多少?

輸入每百萬 tokens 定價 $0.00,輸出每百萬 tokens 定價 $0.00。計費以 token 為單位,不會湊整到批次大小。

我要如何透過 API 使用 llama-3.1-8b?

將請求送至 UnoRouter 的 /v1/chat/completions 端點,並將 model 設為 llama-3.1-8b。任何 OpenAI 相容的用戶端程式庫都可使用。驗證採用標準 Bearer token。

llama-3.1-8b 的上下文視窗是多少?

llama-3.1-8b 支援 32K tokens 的上下文視窗,由您的提示詞與模型回應共用。

§ 04

相似模型

立即試用 llama-3.1-8b

建立 API 金鑰後,一分鐘內就能開始發送請求。

查看所有模型