Xây dựng với CometAPICần một API cho nhiều mô hình?Kiểm thử quy trình trong Playground, sau đó tạo API key khi mô hình và chi phí phù hợp với trường hợp sử dụng của bạn.
Gemini API bậc miễn phí 2026: các mô hình miễn phí, giới hạn & hướng dẫn về giá
Lưu ý về tính cập nhật: thông tin miễn phí/hạn mức và giá có thể thay đổi nhanh theo thời gian. Hãy dùng các bước “cách kiểm tra” bên dưới để xác nhận tình trạng mới nhất.
1) Cách xem model Gemini API nào đang miễn phí (thời điểm hiện tại)
- Trên AI Studio (Gemini API trực tiếp):
- Tạo/đăng nhập AI Studio và tạo API key.
- Vào mục Pricing/Rate limits/Usage (thường nằm trong tài liệu “Gemini API pricing” và trang quản trị AI Studio) để xem:
- Danh sách model khả dụng với Free tier (thường nêu rõ “no-cost” hoặc “free quota”).
- Hạn mức miễn phí theo RPM/TPM/RPD và điều kiện dùng vượt miễn phí.
- Mẹo tìm nhanh: tìm “Gemini API pricing”, “AI Studio rate limits”, “models availability”.
- Trên Google Cloud (Vertex AI):
- Xem trang “Vertex AI pricing – Generative AI” để biết giá cho từng model/loại phương thức (text, image, audio, video, embedding).
- Trong Google Cloud Console: Quotas -> Vertex AI -> Generative AI để kiểm tra hạn mức theo region/model. Lưu ý: Vertex AI là tầng trả phí theo tiêu thụ; free tier (nếu có) thường được nêu trong tài liệu chính thức, không phải lúc nào cũng hiển thị ngay trong Quotas.
2) Hiểu các giới hạn RPM, TPM và RPD
- RPM (Requests per Minute): số lượng yêu cầu tối đa mỗi phút. Nếu vượt, bạn nhận lỗi 429/throttling.
- TPM (Tokens per Minute): tổng số token (đầu vào + đầu ra) được xử lý mỗi phút. Prompt dài hoặc output nhiều sẽ “tiêu” TPM nhanh hơn.
- RPD (Requests per Day): giới hạn số yêu cầu mỗi ngày, thường áp dụng với Free tier.
- Ghi chú:
- Token tính cho cả input và output. Một câu trả lời dài có thể chạm TPM trước khi chạm RPM.
- Một số phương thức đa phương thức (ảnh, âm thanh, video) có thể có cách quy đổi riêng sang token/đơn vị tài nguyên; xem chi tiết trong pricing/rate limits của model.
3) Thiết lập Python với Gemini API (AI Studio key)
- Cài đặt:
- pip install google-generativeai
- Đặt biến môi trường GOOGLE_API_KEY bằng API key từ AI Studio.
- Ví dụ tối thiểu:
- import os
import google.generativeai as genai
genai.configure(api_key=os.environ["GOOGLE_API_KEY"])
model = genai.GenerativeModel("gemini-1.5-flash") # thay bằng model bạn chọn
resp = model.generate_content("Xin chào, Gemini!")
print(resp.text)
- Thực hành tốt:
- Không hard-code API key; dùng biến môi trường/secret manager.
- Thêm retry với backoff khi gặp 429 (vượt RPM/TPM) hoặc lỗi mạng.
- Theo dõi usage trong AI Studio để tránh vượt RPD/TPM.
4) Dùng Gemini qua Vertex AI (Google Cloud)
- Bước chuẩn bị:
- Tạo Project, bật Billing, bật Vertex AI API.
- Cấp quyền qua Service Account hoặc gcloud auth application-default login cho máy dev.
- Cài đặt:
- pip install google-cloud-aiplatform
- Ví dụ:
- import vertexai
from vertexai.generative_models import GenerativeModel
vertexai.init(project="YOUR_GCP_PROJECT", location="us-central1")
model = GenerativeModel("gemini-1.5-pro") # chọn model/region tương ứng
resp = model.generate_content("Xin chào từ Vertex AI!")
print(resp.text)
- Quản trị/billing:
- Dùng Budgets & alerts để đặt ngưỡng chi phí.
- Dùng Quotas để xin tăng hạn mức khi cần thông lượng cao.
- Theo dõi Cost -> Reports để kiểm soát chi tiêu.
5) Hướng dẫn billing và theo dõi chi phí
- AI Studio (Gemini API trực tiếp):
- Free tier có hạn mức; khi vượt, bạn cần chuyển sang thanh toán qua Google Cloud hoặc mức trả phí nếu có cung cấp.
- Kiểm tra trang Pricing/Usage để biết ngưỡng miễn phí và cách nâng cấp.
- Vertex AI:
- Tính phí theo tiêu thụ (thường theo 1.000 token, hoặc theo loại phương thức như tạo ảnh/video/embedding).
- Thiết lập Budget, Alert, và định kỳ xem báo cáo chi phí.
- Xem kỹ giá theo region và model vì có thể khác nhau.
6) So sánh giá Google (Gemini API/Vertex AI) với CometAPI
- Lưu ý: “CometAPI” có thể là tên dịch vụ của một nhà cung cấp cụ thể. Vui lòng xác nhận URL trang pricing của CometAPI bạn đang tham chiếu. Dưới đây là khung so sánh và các điểm cần kiểm tra:
- Mô hình tính phí:
- Theo 1.000 token (tách input/output hay gộp?), hay theo request, hay theo phút xử lý/phương thức (ảnh, audio, video).
- Có tối thiểu mỗi tháng hoặc cam kết lưu lượng không.
- Hạn mức và giới hạn:
- RPM/TPM/RPD mặc định và khả năng nâng hạn mức.
- Chính sách throttling, burst, và header/feedback khi chạm ngưỡng.
- Free tier/trial:
- Có free tier không, bao gồm model nào, hạn mức bao nhiêu, điều kiện tiếp tục dùng.
- Tính năng doanh nghiệp:
- SLO/uptime, hỗ trợ kỹ thuật, quyền riêng tư dữ liệu (không dùng dữ liệu để huấn luyện), tùy chọn region/data residency, kiểm soát PII.
- Bao phủ model/tính năng:
- Số lượng model, context window, chất lượng và độ trễ, hỗ trợ đa phương thức, công cụ/grounding, batch/batching.
- Công cụ tối ưu chi phí:
- Logprobs/token streaming, nén prompt, caching, batch, distillation hoặc các gói giảm giá theo cam kết.
- Kết luận thực dụng:
- Google thường công bố giá/limits chi tiết cho từng model/phương thức trên tài liệu chính thức và cung cấp Vertex AI cho nhu cầu doanh nghiệp.
- Với CometAPI, hãy kiểm tra trang pricing/terms/SLAs của họ và thử workload mẫu để so sánh chi phí thực tế trên cùng prompt, cùng chiều dài output, cùng rate limit.
7) Quản lý giới hạn tốc độ trong mã (gợi ý ngắn)
- Thêm retry với exponential backoff khi nhận 429/503, giới hạn số lần retry và tôn trọng Retry-After (nếu có).
- Ước tính token trước khi gọi (ví dụ tách từ và ước lượng) để chủ động điều tiết TPM.
- Batch hoặc rải đều yêu cầu theo thời gian để tránh spike vượt RPM.
8) Cách tự kiểm chứng “model nào miễn phí” ở thời điểm bạn đọc
- Tìm và mở trang “Gemini API pricing” và “AI Studio rate limits/usage”.
- Trong AI Studio, kiểm tra bảng Usage/Rate limits gắn với API key của bạn.
- Nếu dùng Vertex AI, xem mục Pricing của model tương ứng và trang Quotas trong Cloud Console.
- Chạy thử với workload nhỏ và theo dõi Usage để xác nhận hạn mức thực tế.
Nếu bạn cung cấp đường dẫn pricing chính thức của CometAPI (hoặc tên đầy đủ dịch vụ), tôi có thể lập bảng so sánh chi tiết hơn theo các tiêu chí trên.
Tầng miễn phí của Gemini API khả dụng vào tháng 10 năm 2026 cho một số mô hình được chọn, bao gồm Gemini 3.8 Flash, Gemini 3.6 Flash, Gemini 3.5 Flash-Lite và Gemini 3.1 Flash-Lite. Bạn có thể bắt đầu mà không cần thiết lập thanh toán, nhưng hạn mức dành cho dự án của bạn quyết định bạn thực sự có thể chạy được bao nhiêu.
Hãy bắt đầu với Gemini 3.8 Flash cho các thử nghiệm lập trình và suy luận đòi hỏi, hoặc một mô hình Flash-Lite cho các tác vụ trích xuất và phân loại thường kỳ. Trước khi dùng dữ liệu khách hàng thực, hãy kiểm tra điều khoản dữ liệu áp dụng. Nếu cần sức chứa trả phí, so sánh mức giá gốc của Google với quyền truy cập do CometAPI tính phí riêng.
Key Takeaways
Gemini 3.8 Flash là tùy chọn Flash mới nhất được đề cập ở đây, hỗ trợ đầu vào đa phương thức và mức độ suy luận có thể điều chỉnh.
Gemini 3.6 Flash vẫn được hỗ trợ cho tích hợp hiện có; Gemini 3.5 Flash-Lite và Gemini 3.1 Flash-Lite hướng đến tải nhẹ hơn.
Gemini 4 Argon yêu cầu quyền truy cập API trả phí. Tính khả dụng miễn phí trong một sản phẩm Google khác không đồng nghĩa với đủ điều kiện miễn phí qua API.
Đã được xem xét về độ rõ ràng, ghi nguồn và thuật ngữ API hiện tại.
Dùng phần tóm tắt này để nhận câu trả lời nhanh, sau đó đọc hướng dẫn để hiểu thêm ngữ cảnh, ví dụ và chi tiết triển khai.
Kiểm tra hạn mức trong AI Studio. Cửa sổ ngữ cảnh của mô hình khác với hạn mức yêu cầu và token của dự án bạn.
So sánh các tuyến truy cập. Hạn mức miễn phí của Google và giá, tín dụng, giới hạn tài khoản của CometAPI là tách biệt.
Is the Gemini API Free in 2026?
Google cung cấp token đầu vào và đầu ra miễn phí cho một số mô hình Gemini API, tùy thuộc vào hạn mức ở cấp dự án. Bạn có thể bắt đầu mà không cần bật thanh toán. Đây là một tầng miễn phí dựa trên hạn mức chứ không phải tín dụng khuyến mại một lần.
Điểm khác biệt quan trọng là Google AI Studio, Gemini API và các gói đăng ký Gemini cho người tiêu dùng là các trải nghiệm truy cập riêng biệt. Một mô hình khả dụng trong một giao diện không nhất thiết khả dụng miễn phí qua giao diện khác.
Which Gemini API Models Are Free in October 2026?
Bốn mô hình dưới đây là điểm khởi đầu hữu ích cho ứng dụng văn bản và đa phương thức. Đây không phải danh sách đầy đủ mọi endpoint đủ điều kiện miễn phí. Theo các liên kết mô hình để khám phá truy cập qua CometAPI; thông số của Google được liên kết bên dưới bảng.
Mô hình
ID mô hình
Một cách sử dụng khởi đầu thực tế
Gemini 3.8 Flash
gemini-3.8-flash
Quy trình lập trình, suy luận phức tạp và điều khiển bằng công cụ
Gemini 3.6 Flash
gemini-3.6-flash
Ứng dụng Flash hiện có và tự động hóa tổng quát
Gemini 3.5 Flash-Lite
gemini-3.5-flash-lite
Phân tích tài liệu và tác vụ agent nhẹ
Gemini 3.1 Flash-Lite
gemini-3.1-flash-lite
Phân loại, dịch thuật và trích xuất đơn giản
Cả bốn đều chấp nhận đầu vào văn bản, hình ảnh, video, âm thanh và PDF, và tạo đầu ra văn bản. Giới hạn đầu vào được công bố là 1,048,576 token, với tối đa 65,536 token đầu ra. Các giới hạn của mô hình không đảm bảo dự án miễn phí của bạn có thể gửi yêu cầu lớn đến mức đó.
Audio, Embeddings and Image Generation: Access and Limits
Google cũng liệt kê quyền truy cập miễn phí cho một số mô hình chuyên biệt, như Gemini 3.8 Live, Gemini 3.8 Flash TTS và Gemini Embedding 2. Kiểm tra mục giá cho đúng mô hình và endpoint trước khi tích hợp: hiểu một ảnh hoặc đoạn âm thanh là năng lực khác với việc tạo ảnh hoặc phản hồi giọng nói.
Phương thức API, định dạng yêu cầu và giới hạn khác nhau theo năng lực. Hãy kiểm tra tài liệu cho mô hình và thao tác cụ thể bạn dự định sử dụng.
Quyền truy cập miễn phí không áp dụng cho mọi mô hình Gemini hoặc endpoint tạo nội dung. Gemini 4 Argon yêu cầu quyền truy cập Gemini API trả phí, trong khi các endpoint tạo ảnh và video cao cấp có quy tắc đủ điều kiện riêng. Trước khi tích hợp một tính năng, hãy kiểm tra chính xác mô hình và thao tác thay vì giả định chúng dùng chung cùng hạn mức miễn phí.
How Does Gemini 3.8 Flash Perform?
Đánh giá được Google công bố so sánh Gemini 3.8 Flash với Gemini 3.7 Flash và các mô hình khác. Báo cáo 73.7% trên DeepSWE v1.1, so với 65.3% cho 3.7 Flash—tăng 8.4 điểm phần trăm. Trên HLE-Verified, điểm số báo cáo tăng từ 53.6% lên 54.9%.
Hãy dùng các kết quả này để chọn một mô hình để thử, rồi đánh giá trên các ví dụ từ chính ứng dụng của bạn. Với bộ trích xuất tài liệu, trường dữ liệu đúng và định dạng đầu ra ổn định có thể quan trọng hơn benchmark lập trình. Với trợ lý lập trình, hãy đo xem thay đổi đề xuất có hoạt động không, mất bao lâu và tiêu thụ bao nhiêu token.
What Are the Gemini API Free Tier Rate Limits in 2026?
Ngộ nhận lớn nhất về tầng miễn phí của Gemini là mọi tài khoản đều nhận cùng một số yêu cầu cố định.
Mở Google AI Studio, chọn dự án đứng sau khóa API của bạn và xem các giới hạn đang áp dụng cho mô hình đã chọn. Hướng dẫn rate-limit của Google giải thích các chiều hạn mức; bảng điều khiển hiển thị hạn mức áp dụng cho tài khoản của bạn.
RPM (requests per minute): Giới hạn số yêu cầu bạn có thể gửi mỗi phút. Lưu ý các đợt tăng ngắn và các worker song song gửi quá nhiều yêu cầu cùng lúc.
TPM (input tokens per minute): Giới hạn khối lượng token đầu vào bạn có thể gửi mỗi phút. Prompt lớn, lịch sử hội thoại và tài liệu có thể tiêu hao hạn mức này ngay cả khi số yêu cầu thấp.
RPD (requests per day): Giới hạn tổng số yêu cầu hàng ngày. Lập kế hoạch khối lượng công việc theo hạn mức hằng ngày và thời điểm đặt lại.
Giới hạn đầu vào một triệu token mô tả kích thước đầu vào tối đa mô hình hỗ trợ. Điều đó không đảm bảo dự án tầng miễn phí có đủ TPM để gửi một triệu token trong một yêu cầu. Sức chứa ngữ cảnh và sức chứa hạn mức tốc độ cần được đánh giá riêng.
Hạn mức yêu cầu hàng ngày đặt lại vào nửa đêm Giờ Thái Bình Dương. Nhiều khóa trong một dự án dùng chung giới hạn sử dụng của dự án, vì vậy tạo thêm khóa không tăng sức chứa. Các giới hạn khác có thể áp dụng cho mô hình hoặc thao tác chuyên biệt.
Handle Gemini API 429 Errors
Đọc phần nội dung lỗi trước khi thử lại. Trong Interactions API hiện tại, mã 429 có thể phân biệt giới hạn yêu cầu hoặc token ngắn hạn với hạn mức ngày đã cạn. Với giới hạn ngắn hạn, hãy làm chậm hàng đợi và dùng backoff theo cấp số nhân kèm jitter. Với việc cạn hạn mức ngày, hãy chờ đặt lại hoặc thay đổi kế hoạch sức chứa của ứng dụng. Mã 503 thay vào đó báo hiệu dịch vụ tạm thời không khả dụng. Xem tham chiếu lỗi API của Google.
How Do Google and CometAPI Prices Compare?
When Gemini API Billing Begins
Việc dùng hết hạn mức miễn phí không tự động chuyển dự án của bạn sang sử dụng trả phí. Nếu không có tài khoản thanh toán đang hoạt động, các yêu cầu vượt quá hạn mức miễn phí sẵn có sẽ gặp hạn chế truy cập hoặc sức chứa thay vì bị tính phí token chuẩn.
Để dùng sức chứa trả phí, bạn cần liên kết thanh toán. Nếu tài khoản của bạn được gán vào gói trả trước, bạn cũng phải nạp tín dụng, bắt đầu từ $5 hoặc tương đương địa phương. Kiểm tra gói được gán và kiểm soát chi tiêu trong AI Studio trước khi nâng cấp. Số dư và hạch toán sử dụng có thể cập nhật trễ, vì vậy số dư trả trước hiển thị không phải là ngưỡng cắt chi tiêu tức thời.
Khoản tín dụng chào mừng Cloud $300 của Google tách biệt với tầng miễn phí Gemini API. Các tài khoản mở sau ngày 2 tháng 3 năm 2026 không thể dùng khoản tín dụng đó cho chi phí Gemini API hoặc AI Studio. Xem hướng dẫn thanh toán để biết quy tắc áp dụng cho tài khoản của bạn.
Google and CometAPI Token Prices
Bảng dưới so sánh giá token Chuẩn của Google với mức giá mô hình do CometAPI công bố được kiểm tra vào ngày 26 tháng 10 năm 2026. Tất cả số tiền tính bằng USD trên mỗi một triệu token; đầu ra bao gồm suy luận tính phí nếu áp dụng. Miễn phí đầu vào và đầu ra của Google chỉ áp dụng cho các yêu cầu đủ điều kiện trong hạn mức dự án.
Mô hình
Google free input/output
Google paid input / output
CometAPI input / output
Gemini 3.8 Flash
Miễn phí
$0.75 / $3.75
$0.60 / $3.00
Gemini 3.6 Flash
Miễn phí
$0.75 / $3.75
$0.60 / $3.00
Gemini 3.5 Flash-Lite
Miễn phí
$0.30 / $2.50
Kiểm tra báo giá hiện tại trong danh mục
Gemini 3.1 Flash-Lite
Miễn phí
$0.25 / $1.50
$0.20 / $1.20
Gemini 4 Argon
Không khả dụng
$2.00 / $10.00
$1.60 / $8.00
Giá Flash giới thiệu của Google ở trên kết thúc vào ngày 31 tháng 12 năm 2026; 3.8 Flash và 3.6 Flash sau đó chuyển sang $1.50 đầu vào và $7.50 đầu ra. Giá giới thiệu của Argon kết thúc vào ngày 30 tháng 11 năm 2026, sau đó trở thành $4 đầu vào và $20 đầu ra. Mức giá của CometAPI nên được kiểm tra độc lập khi các khuyến mại đó thay đổi. Công cụ, bộ nhớ đệm, lưu trữ, thuế và các dịch vụ khác có thể thêm chi phí.
A Small Workload Example
Giả sử bạn gửi 1,000 yêu cầu văn bản, mỗi yêu cầu có 2,000 token đầu vào và 500 token đầu ra. Đó là hai triệu token đầu vào và nửa triệu token đầu ra. Theo mức giá trên, Gemini 3.8 Flash qua Google tốn $3.375, khoảng $3.38, và $2.70 qua CometAPI. Một khối lượng công việc tầng miễn phí đủ điều kiện tốn $0 chỉ khi nó nằm trong các hạn mức sẵn có. Đây là ước tính chi phí theo token, không phải hóa đơn đã đo lường.
How Can You Start Using the Gemini API Free Tier?
Bạn cần một tài khoản Google và khu vực đủ điều kiện, một khóa API, và Python với pip. Ví dụ dưới đây theo hướng dẫn bắt đầu hiện tại của Google và dùng Interactions API.
Create a Key and Install the SDK
Trong Google AI Studio, sao chép hoặc tạo khóa API cho một dự án chưa bật thanh toán trả phí. Cài SDK, rồi đặt khóa trong môi trường terminal của bạn. Giữ khóa trên máy chủ thay vì nhúng vào mã trình duyệt.
pip install -U google-genai
Trên macOS hoặc Linux:
export GEMINI_API_KEY="your_api_key"
Trong Windows PowerShell:
$env:GEMINI_API_KEY="your_api_key"
Send a Request and Check the Result
from google import genai
client = genai.Client()
interaction = client.interactions.create(
model="gemini-3.8-flash",
input="Explain vector databases in 100 words."
)
print(interaction.output_text)
Lưu tệp này dưới dạng tệp Python và chạy từ cùng môi trường. Yêu cầu thành công sẽ in ra một giải thích ngắn. Sau đó kiểm tra bảng điều khiển sử dụng trong AI Studio để xác nhận dự án và mô hình đang nhận lưu lượng. Nếu thất bại, hãy kiểm tra mã lỗi và xác minh khóa, quyền truy cập mô hình, hạn mức và trạng thái thanh toán trước khi thay đổi mã.
How Can Developers Access Gemini API Models Through CometAPI?
CometAPI cung cấp tuyến truy cập riêng cho các mô hình Gemini được hỗ trợ và các nhà cung cấp AI khác.
Chọn tuyến này khi một giao diện chung giữa các nhà cung cấp giúp ứng dụng của bạn đơn giản hơn. Dùng khóa CometAPI với endpoint của dịch vụ, rồi xác minh ID mô hình được hỗ trợ và giới hạn tài khoản. Hạn mức miễn phí của Google không chuyển sang dịch vụ này. Ví dụ sau dùng giao diện tương thích OpenAI do CometAPI tài liệu hóa.
pip install -U openai
Đặt COMETAPI_KEY trong môi trường của bạn bằng cùng phương thức theo shell được hiển thị ở trên, rồi chạy:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["COMETAPI_KEY"],
base_url="https://api.cometapi.com/v1"
)
response = client.chat.completions.create(
model="gemini-3.8-flash",
messages=[{
"role": "user",
"content": "Summarize the benefits of RAG."
}]
)
print(response.choices[0].message.content)
Trước khi triển khai, hãy xác nhận rằng ID mô hình dự định được tài khoản CometAPI của bạn hỗ trợ. Định danh gốc của Google và bí danh theo nhà cung cấp không đảm bảo trùng nhau cho mọi mô hình.
What Privacy Restrictions Apply to the Gemini API Free Tier?
Theo Điều khoản bổ sung của Gemini API của Google, prompt và đầu ra của dịch vụ không trả phí có thể được dùng để cải thiện sản phẩm của Google, và con người có thể xem xét chúng. Đừng gửi thông tin nhạy cảm, bí mật hoặc cá nhân tới dịch vụ không trả phí. Dịch vụ API trả phí có điều khoản sử dụng dữ liệu khác.
Quy định vùng lãnh thổ rất quan trọng: các điều khoản sử dụng dữ liệu của dịch vụ trả phí áp dụng cho một số trường hợp sử dụng không trả phí tại EEA, Thụy Sĩ và Vương quốc Anh, nhưng việc cung cấp khách hàng API cho người dùng ở các khu vực đó yêu cầu Paid Services. Đó là các điều kiện tách biệt. Hãy kiểm tra điều khoản hiện hành cho người dùng và triển khai của bạn trước khi phát hành.
How Can You Optimize Gemini API Free Tier Usage?
Xây dựng xung quanh hạn mức bạn đã đo. Giữ một bộ nhỏ các tác vụ đại diện và ghi lại mức độ thành công của tác vụ, độ trễ, token đầu vào và đầu ra, cũng như số lần thử lại. Sau đó thay đổi một phần của khối lượng công việc tại một thời điểm:
Phân tuyến theo độ khó. Thử Flash-Lite cho trích xuất thường kỳ và chỉ dùng mô hình lớn hơn ở nơi nó cải thiện kết quả.
Cắt gọn đầu vào. Gửi phần tài liệu liên quan và lịch sử hội thoại cần thiết thay vì gửi lại mọi thứ lặp đi lặp lại.
Kiểm soát sinh nội dung. Yêu cầu độ dài đầu ra hữu ích và điều chỉnh mức độ suy luận chỉ ở nơi mô hình và API hỗ trợ.
Tái sử dụng kết quả. Lưu trữ các kết quả ứng dụng lặp lại và kiểm tra tính đủ điều kiện bộ nhớ đệm theo mô hình trước khi giả định bộ nhớ đệm API là miễn phí.
Lập ngân sách đồng thời. Giữ các worker phía sau một hàng đợi chung để các tác vụ độc lập không tạo ra đợt tăng không cần thiết.
Cuối cùng, theo dõi chất lượng cũng như mức tiêu thụ. Một mô hình rẻ hơn nhưng thường xuyên thất bại hoặc cần nhiều lần thử có thể tạo thêm công việc so với một mô hình hơi đắt hơn nhưng thành công ngay lần đầu.
Một chỉ số đánh giá nội bộ hữu ích là:
Chi phí hiệu quả trên mỗi tác vụ thành công = Tổng chi phí suy luận / Số tác vụ thành công
Với thử nghiệm tầng miễn phí, một chỉ số vận hành bổ sung là số tác vụ thành công trên mỗi cửa sổ hạn mức sẵn có.
FAQ
Làm thế nào để biết vấn đề hạn mức do bùng nổ yêu cầu hay do tài liệu lớn?
So sánh dấu thời gian của lỗi với số lượng yêu cầu và khối lượng token đầu vào. Một đợt tăng prompt ngắn gợi ý tần suất yêu cầu; vài tài liệu dài có thể làm cạn token ngay cả khi RPM thấp. Trong Interactions API, kiểm tra mã lỗi ở dạng máy đọc được và phân biệt giữa cạn hạn mức ngày với giới hạn ngắn hạn. Ghi nhật ký token và độ đồng thời của worker cùng nhau để bạn có thể thay đổi phần hàng đợi liên quan.
Tôi nên làm gì nếu một yêu cầu bị timeout sau khi gửi?
Timeout không phải lúc nào cũng cho biết thao tác từ xa đã hoàn tất hay chưa. Với một interaction bạn có ID, hãy kiểm tra trạng thái trước khi bắt đầu một tác vụ tốn kém khác. Đặt một ID tác vụ cấp ứng dụng quanh quy trình của bạn và khử trùng lặp các hành động hạ lưu, đặc biệt là email, ghi cơ sở dữ liệu và gọi công cụ. Việc thử lại sinh văn bản không nên âm thầm lặp lại một hành động nghiệp vụ. Tài liệu Interactions của Google mô tả việc truy xuất và trạng thái thực thi.
Tôi nên so sánh Flash và Flash-Lite cho trích xuất tài liệu như thế nào?
Dùng cùng bộ tài liệu, trường bắt buộc và quy tắc chấp nhận cho cả hai mô hình. Bao gồm bản scan nhiễu, thiếu trường và giá trị mơ hồ. Chấm điểm độ chính xác trường thực tế và tính hợp lệ đầu ra, rồi đếm số lần thử lại và sửa thủ công. Một mô hình tạo ít token hơn vẫn có thể tiêu tốn nhiều công sức nếu lỗi của nó yêu cầu một yêu cầu khác. Giữ một bộ tài liệu giữ lại để các thay đổi prompt không chỉ được đánh giá trên các ví dụ bạn đã tinh chỉnh.
Tôi nên kiểm tra gì trước khi chuyển một ứng dụng từ Google sang CometAPI?
Kiểm tra chính xác endpoint, ID mô hình, định dạng thông điệp và tính năng ứng dụng của bạn sử dụng. Một yêu cầu chat-completions tương thích không đồng nghĩa hỗ trợ giống hệt cho tệp, công cụ, bộ nhớ đệm hoặc cài đặt suy luận. So sánh trường usage trả về và cách xử lý lỗi cũng như phản hồi văn bản, và xem lại chính sách dữ liệu của bên trung gian và nhà cung cấp thượng nguồn. Bắt đầu với một khối lượng nhỏ, không nhạy cảm trước khi chuyển phần còn lại của lưu lượng.
Làm sao giữ tích hợp ổn định khi mô hình và giá thay đổi?
Đưa ID mô hình, cài đặt endpoint và giả định giá vào cấu hình. Ghi lại mô hình và ngày với kết quả đánh giá, theo dõi thông báo ngừng hỗ trợ, và chạy lại tác vụ đại diện trước khi thay đổi mô hình. Thiết lập cảnh báo ngân sách và xem lại giá khuyến mại trước khi kết thúc. Giữ một phương án dự phòng đã thử nghiệm cho khối lượng công việc thiết yếu thay vì giả định một hạn mức miễn phí hoặc một bí danh mô hình cụ thể sẽ tồn tại vô thời hạn.
Conclusion
Tầng miễn phí của Gemini API là cách hữu ích để xác thực ứng dụng trước khi trả tiền cho sức chứa. Chọn mô hình phù hợp với tác vụ, đo hạn mức sẵn có cho dự án của bạn, và kiểm tra điều khoản dữ liệu trước khi dùng đầu vào sản xuất.
Cho một thử nghiệm đầu tiên, hãy thực hiện một yêu cầu nhỏ và xác nhận trong AI Studio. Sau đó đo một khối lượng công việc đại diện. Nếu sức chứa miễn phí trở thành rào cản, hãy so sánh Gemini API trả phí của Google với CometAPI bằng cùng prompt, yêu cầu chất lượng và tổng chi phí token đầy đủ.