Chúng tôi gom hơn 100 mô hình AI miễn phí vào một endpoint duy nhất
Trong hai ngày, chúng tôi đã kết nối 15 nhà cung cấp miễn phí vào UnoRouter: 134 dòng mô hình miễn phí, một endpoint OpenAI-compatible, $0 cho mỗi token. Chúng miễn phí là có lý do và đi kèm giới hạn tần suất mà chúng tôi không thể nâng lên. Đây là phiên bản thành thật.
Thế giới LLM miễn phí là có thật nhưng manh mún: Groq, Gemini, Cloudflare, Mistral, OVHcloud và cả tá cái tên khác, mỗi bên đều cho đi năng lực thật sự, nhưng nằm sau cả tá trang đăng ký, cả tá định dạng key và cả tá API không tương thích với nhau. Trong hai ngày, chúng tôi đã tìm hiểu, kiểm thử và gộp mọi nhà cung cấp miễn phí vĩnh viễn hợp pháp mà chúng tôi tìm được vào UnoRouter. Kết quả: 134 dòng mô hình miễn phí từ 15 nhà cung cấp, đứng sau một endpoint OpenAI-compatible và một key duy nhất.
Những gì chúng tôi đã thêm
Mười lăm nhà cung cấp miễn phí, lần lượt từng cái một: Groq, Gemini, Cerebras, SambaNova, Mistral, Cloudflare Workers AI (hai tài khoản), GitHub Models, Z.ai, OVHcloud, AI Horde, Pollinations, Cohere, Jina, NVIDIA NIM và OpenRouter. Tổng cộng 134 dòng mô hình miễn phí: Llama, gpt-oss, Qwen, Mistral, GLM, Nemotron và nhiều hơn nữa, cộng thêm 30 mô hình embedding miễn phí và 13 mô hình hình ảnh và âm thanh miễn phí. Mỗi mô hình đều được kiểm tra từ đầu đến cuối về HTTP, streaming và tool call trước khi lên sóng, đúng những bài kiểm tra tính xác thực và bộ khung mà chúng tôi chạy cho các mô hình trả phí.
Miễn phí là có lý do
Những mô hình này miễn phí thực sự, và đó chính là lý do chúng có giới hạn. Nhà cung cấp đặt ra những giới hạn đó, không phải chúng tôi, và chúng tôi không thể nâng lên. Mỗi nguồn thượng nguồn áp đặt giới hạn tần suất riêng: số request mỗi phút, hạn ngạch token mỗi ngày, ngân sách neuron của Cloudflare, mức ưu tiên trong hàng đợi tình nguyện. Chạm trần là nhà cung cấp đó trả về 429 cho tới khi reset. Một key miễn phí còn chạy được sáng nay có thể cạn kiệt vào chiều nay. Gói miễn phí là thông lượng theo kiểu cố hết sức, không phải một sự bảo đảm. Nếu khối lượng công việc của bạn cần độ trễ ổn định và không có những cú 429 bất ngờ, hãy dùng mô hình trả phí.
Tại sao phải gom chúng lại làm gì
Vì lựa chọn còn lại là mười lăm tài khoản. Mỗi nhà cung cấp có trang đăng ký riêng, định dạng key riêng, base URL riêng và những điểm oái oăm riêng: Z.ai nói theo đường dẫn Zhipu V4, Cloudflare mang account id trong URL, AI Horde muốn một key ẩn danh, GitHub khóa các mô hình sau phạm vi của token. Chúng tôi gánh hết tất cả những thứ đó để bạn gọi chúng theo đúng cách bạn gọi mọi thứ khác: một endpoint OpenAI-compatible, một key, một tên mô hình. Nguyên tắc thành thật mà chúng tôi tự ràng buộc: một tài khoản thật cho mỗi nhà cung cấp, chấp nhận giới hạn, không gom gặt, không gộp chung. Chúng tôi mở ra gói miễn phí như một món quà, không phải bán lại hạn ngạch của người khác.
Cách chúng tôi làm dịu các giới hạn
BLOG.POSTS.FREE_MODELS_AGGREGATED.P_FAILOVER
Những gì chúng tôi đã không làm
Chúng tôi không thêm reverse proxy phục vụ lại các mô hình hàng đầu của OpenAI hay Claude mà không có phép. Chúng tôi không kéo vào các dịch vụ gom key cá nhân với token không thể chuyển nhượng, hay những dịch vụ pool-of-pools chuyên gom gặt và xoay vòng key của người khác. Chúng tồn tại, chúng đầy cám dỗ, và chúng chính là mớ chợ đen lộn xộn mà gateway này sinh ra để thay thế. Mỗi nhà cung cấp trong danh sách đều cho đi gói miễn phí của mình một cách có chủ đích, theo điều khoản riêng của họ. Nếu một nguồn không vượt qua được ngưỡng đó, nó không có mặt ở đây.
Dùng thử
BLOG.POSTS.FREE_MODELS_AGGREGATED.CTA
Liên kết tài khoản để nhận 1$, boost máy chủ để nhận 1$ mỗi tháng, săn lỗi để nhận tới 50$. Discord UnoRouter vừa mở cửa.
Nhiều mô hình ảnh quảng cáo chỉnh sửa đa tham chiếu, nhưng tính sẵn có khác nhau rất lớn giữa các reseller. Chúng tôi đã gửi một prompt cố định ghép cảnh từ 6 ảnh tới mọi kênh ảnh trong catalog. 332 lần chạy kênh, 136 mô hình duy nhất, 54 mô hình có ít nhất một provider đã xác minh đậu.
Chúng tôi probe 8 reseller Claude phổ biến trong 17 ngày. 183 channel của họ không phải Claude. Phần lớn là Kiro Cascade hoặc Codeium đeo nhãn Claude. Tên, số liệu và script để bạn tự kiểm tra provider của mình.