Hạ tầng AI cho ứng dụng của bạn, qua một endpoint.
TMT Cloud vận hành cổng AI tương thích OpenAI: chat, vision, embedding, nhận dạng và tổng hợp giọng nói. Một API key cho mọi nhóm mô hình. Đổi base_url là dùng được.
stream: trueMột cổng, nhiều loại mô hình
Ứng dụng chỉ cần nhớ một địa chỉ và một API key. Việc chọn máy chủ, cân tải và chuyển tiếp do cổng đảm nhiệm.
Chat & suy luận
Hội thoại, tóm tắt, trích xuất, gọi hàm (tool calling), đầu ra JSON. Hỗ trợ streaming.
Vision
Đưa ảnh vào cùng câu hỏi: mô tả, đọc chữ, chấm độ khớp ảnh – nội dung.
Embedding
Vector hoá văn bản cho tìm kiếm ngữ nghĩa và RAG, định dạng /v1/embeddings.
Giọng nói
Nhận dạng tiếng nói (Whisper large-v3) và tổng hợp giọng đọc tiếng Việt.
Dịch máy
Mô hình dịch chuyên dụng cho nhiều cặp ngôn ngữ, gọi như một mô hình chat thông thường.
Lập trình
Mô hình code (Qwen2.5-Coder) cho trợ lý IDE và công cụ review tự động.
Danh mục mô hình
Tên mô hình dùng ở trường model của yêu cầu. Quyền truy cập từng mô hình do key của bạn quyết định; danh sách hiện hành gọi bằng GET /v1/models.
| Nhóm | Mô hình | Ghi chú |
|---|---|---|
| Chat | gpt-oss-20bgemma-3-4bqwen3qwen3.5llama3.1deepseek-r1 | Hội thoại, tóm tắt, trích xuất thông tin, suy luận từng bước. |
| Chat nâng cao | gpt-5.5gpt-5.4-minigpt-4.1 | Chất lượng cao cho tác vụ phức tạp, ngữ cảnh rất dài, hỗ trợ ảnh và gọi hàm. |
| Vision | qwen3-vlqwen3-vl-8bllama3.2-vision | Mô tả ảnh, đọc chữ trong ảnh; nhận ảnh (URL hoặc base64) trong messages. |
| Embedding | qwen3-embeddingqwen3-embedding-8b | Vector hoá văn bản cho tìm kiếm ngữ nghĩa, RAG. |
| Nhận dạng giọng nói | whisper-large-v3 | Chuyển giọng nói thành văn bản, hỗ trợ tiếng Việt (/v1/audio/transcriptions). |
| Tổng hợp giọng nói | voxcpm2vixtts | Chuyển văn bản thành giọng đọc tự nhiên (/v1/audio/speech). |
| Dịch | translategemma | Dịch văn bản giữa nhiều ngôn ngữ; truyền nội dung cần dịch như một tin nhắn người dùng. |
| Lập trình | qwen2.5-coder | Viết, giải thích, sinh test và review code. |
Gọi API trong 3 bước
- Nhận API keyLiên hệ TMT Cloud để được cấp key riêng kèm danh sách mô hình và hạn mức.
- Trỏ SDK về cổng
base_url=https://ai.devmin.net/v1 - Chọn mô hìnhĐiền tên mô hình ở trường
modelvà gọi như OpenAI.
curl https://ai.devmin.net/v1/chat/completions \ -H "Authorization: Bearer $TMT_AI_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "gemma-3-4b", "messages": [{"role": "user", "content": "Xin chào!"}] }'
from openai import OpenAI client = OpenAI( base_url="https://ai.devmin.net/v1", api_key="<TMT_AI_KEY>", ) r = client.chat.completions.create( model="gemma-3-4b", messages=[{"role": "user", "content": "Xin chào!"}], ) print(r.choices[0].message.content)
import OpenAI from "openai"; const client = new OpenAI({ baseURL: "https://ai.devmin.net/v1", apiKey: process.env.TMT_AI_KEY, }); const r = await client.chat.completions.create({ model: "gemma-3-4b", messages: [{ role: "user", content: "Xin chào!" }], }); console.log(r.choices[0].message.content);
Được thiết kế để chạy ổn định
Key riêng, hạn mức riêng
Mỗi khách hàng một API key, giới hạn theo mô hình, ngân sách và tốc độ gọi. Thu hồi hoặc xoay key không ảnh hưởng khách khác.
Giới hạn tốc độ
Cổng giới hạn số yêu cầu mỗi giây để đảm bảo chất lượng dịch vụ cho mọi khách hàng. Vượt giới hạn trả về 429 kèm thông báo rõ ràng.
Theo dõi mức dùng
Ghi nhận số token, độ trễ và lỗi theo từng key và mô hình, phục vụ đối soát và hỗ trợ kỹ thuật.
Kết nối mã hoá
Toàn bộ truy cập qua HTTPS (TLS), bật HSTS. Khu vực quản trị tách riêng khỏi API công khai.
Cập nhật bảo mật
Cổng được nâng cấp thường xuyên theo các thông báo bảo mật của dự án mã nguồn mở nền tảng.
Hỗ trợ tích hợp
Đội kỹ thuật TMT Cloud hỗ trợ chọn mô hình, tinh chỉnh tham số và xử lý sự cố khi tích hợp.