Có sẵn ngay
Meta
llama-3.1-8b
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...
TextToolsOpen Weights32K
Đầu vàoMiễn phí
Đầu raMiễn phí
Ngữ cảnh32K
Endpointopenai
Khả năng
Công cụCó cấu trúc
Phương thức
Đầu vào
text
Đầu ra
text
Thống kê nhanh
Cửa sổ ngữ cảnh32K
Đầu ra tối đa32K
Chế độchat
TokenizerLlama3
Mốc kiến thức2023
Hugging Facemeta-llama/Meta-Llama-3.1-8B-Instruct
Hiệu năng
Đang tải dữ liệu hiệu năng...
Tham số hỗ trợ
| Tham số | Luôn | Mặc định |
|---|---|---|
| frequency_penalty | - | - |
| logit_bias | - | - |
| max_tokens | - | |
| min_p | - | - |
| presence_penalty | - | - |
| repetition_penalty | - | - |
| response_format | - | - |
| seed | - | |
| stop | - | |
| structured_outputs | - | - |
| temperature | - | |
| tool_choice | - | - |
| tools | - | - |
| top_k | - | - |
| top_p | - |
§ 01
Giá cả
| Giá đầu vào | $0.00 · 1 triệu token |
| Giá đầu ra | $0.00 · 1 triệu token |
| Cửa sổ ngữ cảnh | 32K token |
| Endpoint tương thích | openai |
| Nhà cung cấp | Meta |
§ 02
Gọi llama-3.1-8b từ mã của bạn
Trỏ bất kỳ SDK tương thích OpenAI nào đến UnoRouter và yêu cầu mô hình theo tên. Thay YOUR_API_KEY bằng key thật từ bảng điều khiển của bạn.
bash
curl https://api.unorouter.ai/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.1-8b",
"messages": [{"role": "user", "content": "Hello!"}]
}'§ 03
Câu hỏi thường gặp
llama-3.1-8b có giá bao nhiêu mỗi 1 triệu token?
Đầu vào có giá $0.00 mỗi 1 triệu token, đầu ra $0.00 mỗi 1 triệu token. Tính phí theo từng token, không làm tròn theo kích thước lô.
Làm sao để truy cập llama-3.1-8b qua API?
Gửi yêu cầu đến endpoint /v1/chat/completions của UnoRouter với model=llama-3.1-8b. Mọi thư viện client tương thích OpenAI đều hoạt động. Xác thực dùng token Bearer chuẩn.
Cửa sổ ngữ cảnh của llama-3.1-8b là bao nhiêu?
llama-3.1-8b hỗ trợ cửa sổ ngữ cảnh 32K token, chia sẻ giữa prompt của bạn và phản hồi của mô hình.
§ 04