זמין עכשיו
Meta
llama-3.1-8b
Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...
TextToolsOpen Weights32K
קלטחינם
פלטחינם
הקשר32K
נקודות קצהopenai
יכולות
כליםמובנה
אופנים
קלט
text
פלט
text
סטטיסטיקה מהירה
חלון הקשר32K
פלט מקסימלי32K
מצבchat
מטקנןLlama3
מועד ידע אחרון2023
Hugging Facemeta-llama/Meta-Llama-3.1-8B-Instruct
ביצועים
טוען נתוני ביצועים...
פרמטרים נתמכים
| פרמטר | תמיד | ברירת מחדל |
|---|---|---|
| frequency_penalty | - | - |
| logit_bias | - | - |
| max_tokens | - | |
| min_p | - | - |
| presence_penalty | - | - |
| repetition_penalty | - | - |
| response_format | - | - |
| seed | - | |
| stop | - | |
| structured_outputs | - | - |
| temperature | - | |
| tool_choice | - | - |
| tools | - | - |
| top_k | - | - |
| top_p | - |
§ 01
תמחור
| מחיר קלט | $0.00 · מיליון טוקנים |
| מחיר פלט | $0.00 · מיליון טוקנים |
| חלון הקשר | 32K טוקנים |
| נקודות קצה תואמות | openai |
| ספק | Meta |
§ 02
קראו ל-llama-3.1-8b מהקוד שלכם
כוונו כל SDK תואם OpenAI ל-UnoRouter ובקשו את המודל לפי שם. החליפו את YOUR_API_KEY במפתח אמיתי מלוח הבקרה שלכם.
bash
curl https://api.unorouter.ai/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.1-8b",
"messages": [{"role": "user", "content": "Hello!"}]
}'§ 03
שאלות נפוצות
כמה עולה llama-3.1-8b למיליון טוקנים?
קלט מתומחר ב-$0.00 למיליון טוקנים, פלט ב-$0.00 למיליון טוקנים. החיוב הוא לפי טוקן, ללא עיגול לגודלי batch.
איך אני ניגש ל-llama-3.1-8b דרך API?
שלחו בקשות לנקודת הקצה UnoRouter /v1/chat/completions עם model=llama-3.1-8b. כל ספריית לקוח תואמת OpenAI עובדת. האימות משתמש בטוקן Bearer סטנדרטי.
מהו חלון ההקשר של llama-3.1-8b?
llama-3.1-8b תומך בחלון הקשר של 32K טוקנים, מחולק בין ההנחיה שלכם לתגובת המודל.
§ 04