Bạn có thể truy cập và sử dụng Gemma 3n như thế nào?

Khi AI tiếp tục quá trình phát triển nhanh chóng, các nhà phát triển và tổ chức đang tìm kiếm các mô hình mạnh mẽ nhưng hiệu quả có thể chạy trên phần cứng hàng ngày. Gemma 3n, mô hình mã nguồn mở mới nhất của Google DeepMind trong họ Gemma, được thiết kế riêng cho suy luận trên thiết bị, có dấu chân thấp, khiến nó trở thành lựa chọn lý tưởng cho các ứng dụng di động, biên và nhúng. Trong hướng dẫn chuyên sâu này, chúng ta sẽ khám phá Gemma 3n là gì, tại sao nó nổi bật và—quan trọng nhất—làm thế nào bạn có thể truy cập và bắt đầu sử dụng nó ngay hôm nay.

Gemma 3n là gì?

Gemma 3n là biến thể mới nhất trong họ mô hình AI Gemma mở của Google, được thiết kế dành riêng cho các môi trường hạn chế về tài nguyên. Không giống như các phiên bản trước, Gemma 3n kết hợp cả mô hình "chủ" 4 tỷ tham số hoạt động và mô hình con 2 tỷ tham số tích hợp, cho phép đánh đổi chất lượng-độ trễ động mà không cần chuyển đổi giữa các điểm kiểm tra riêng biệt. Kiến trúc quy mô kép này, được gọi là "Nhiều trong 1", tận dụng các cải tiến như Nhúng theo lớp (PLE), chia sẻ Bộ đệm khóa-giá trị (KVC) và lượng tử hóa kích hoạt nâng cao để giảm mức sử dụng bộ nhớ và tăng tốc suy luận trên thiết bị.

Điểm khác biệt giữa Gemma 3n với các biến thể Gemma khác là gì?

Tính linh hoạt hai trong một: Mô hình con lồng nhau của Gemma 3n cho phép các nhà phát triển điều chỉnh liền mạch giữa mô hình tham số 4 B chất lượng cao và phiên bản tham số 2 B nhanh hơn mà không cần tải các tệp nhị phân riêng biệt.

Nâng cao hiệu quả: Thông qua các kỹ thuật như lưu trữ đệm PLE và chia sẻ KVC, Gemma 3n đạt thời gian phản hồi nhanh hơn khoảng 1.5 lần trên thiết bị di động so với Gemma 3 4 B, đồng thời vẫn duy trì hoặc cải thiện chất lượng đầu ra.

Hỗ trợ đa phương thức: Ngoài văn bản, Gemma 3n còn xử lý đầu vào hình ảnh và âm thanh một cách tự nhiên, định vị nó là giải pháp thống nhất cho các tác vụ như chú thích hình ảnh, phiên âm âm thanh và lý luận đa phương thức.

Gemma 3n mở rộng họ Gemma của các mô hình mở—bắt đầu với Gemma 2 và sau đó là Gemma 3—bằng cách tùy chỉnh rõ ràng kiến trúc cho phần cứng bị hạn chế. Trong khi Gemma 3 nhắm mục tiêu đến các máy trạm, GPU cấp nhập cảnh và các phiên bản đám mây, Gemma 3n được tối ưu hóa cho các thiết bị có RAM chỉ 2 GB, cho phép phương pháp nhiều trong một lồng nhau có thể mở rộng động giữa các kích thước mô hình con tùy thuộc vào tài nguyên khả dụng.

Gemini Nano đóng vai trò gì?

Gemini Nano là sản phẩm sắp ra mắt Tích hợp Android và Chrome có cùng kiến trúc cơ bản như Gemma 3n. Nó sẽ mở rộng khả năng truy cập bằng cách nhúng các khả năng trên thiết bị này trực tiếp vào các nền tảng tiêu dùng chính của Google vào cuối năm nay, củng cố thêm hệ sinh thái cho AI ngoại tuyến đầu tiên .

Làm thế nào bạn có thể truy cập Gemma 3n?

Có thể truy cập bản xem trước Gemma 3n qua nhiều kênh, mỗi kênh phù hợp với các sở thích phát triển khác nhau.

Khám phá dựa trên đám mây thông qua Google AI Studio

Đăng nhập vào Google AI Studio bằng tài khoản Google của bạn.
Trong tạp chí Chạy cài đặt bảng điều khiển, chọn Gemma 3n E4B (hoặc bản xem trước mới nhất).
Nhập lời nhắc của bạn vào trình soạn thảo trung tâm và chạy để xem phản hồi ngay lập tức.

Không cần thiết lập cục bộ—thích hợp cho việc tạo mẫu nhanh và thử nghiệm trong trình duyệt.

Truy cập SDK bằng Google GenAI SDK

Để tích hợp vào các ứng dụng Python:

pythonfrom google.genai import Client

client = Client(api_key="YOUR_API_KEY")
model = client.get_model("gemma-3n-e4b-preview")
response = model.generate("Translate this sentence to Japanese.")
print(response.text)

Phương pháp này cho phép nhúng các chức năng của Gemma 3n vào các công cụ phụ trợ hoặc máy tính để bàn chỉ bằng một vài dòng mã.

Triển khai trên thiết bị với Google AI Edge

Google AI Edge cung cấp các thư viện và plugin gốc (ví dụ: cho Android thông qua các gói AAR hoặc iOS thông qua CocoaPods) để triển khai Gemma 3n trực tiếp bên trong các ứng dụng di động. Tuyến đường này mở khóa Ngoại tuyến suy luận, bảo vệ quyền riêng tư của người dùng bằng cách giữ dữ liệu trên thiết bị. Thiết lập thường bao gồm:

Thêm sự phụ thuộc của AI Edge vào dự án của bạn.
Khởi tạo trình thông dịch Gemma 3n với các cờ phương thức cần thiết.
Chạy các lệnh gọi suy luận thông qua API cấp thấp hoặc trình bao bọc cấp cao.

Tài liệu và mã mẫu có sẵn trên trang web Google Developers.

Mô hình cộng đồng Chia sẻ trên Hugging Face

Bản xem trước của biến thể Gemma 3n E4B IT được lưu trữ trên Hugging Face. Để truy cập:

Đăng nhập or đăng ký tại Ôm Mặt.
Đồng ý với giấy phép sử dụng của Google trên google/gemma-3n-E4B-it-litert-xem trước .
Sao chép hoặc tải xuống các tệp mô hình thông qua git lfs hoặc Python transformers API.

Yêu cầu của bạn sẽ được xử lý ngay sau khi bạn chấp nhận các điều khoản cấp phép.

Làm thế nào để tích hợp Gemma 3n?

SDK AI thế hệ mới: Cung cấp các thư viện máy khách được dựng sẵn cho Android, iOS và web để quản lý các chi tiết cấp thấp như tải mô hình, lượng tử hóa và luồng.

TensorFlow Lite (TFLite): Các công cụ chuyển đổi tự động chuyển đổi các điểm kiểm tra của Gemma 3n thành các tệp TFLite FlatBuffer, áp dụng lượng tử hóa sau khi đào tạo để giảm thiểu kích thước nhị phân.

Edge TPU và GPU di động: Đối với các nhà phát triển hướng đến các trình tăng tốc chuyên dụng, Gemma 3n có thể được biên dịch bằng XLA hoặc TensorRT, mở khóa thông lượng bổ sung trên các thiết bị được trang bị Coral Edge TPU hoặc GPU Adreno.

Cần có những điều kiện tiên quyết nào?

Hàng sắt thép: Một thiết bị có CPU hiện đại dựa trên ARM, có hỗ trợ NPU hoặc GPU tùy chọn được khuyến nghị để cải thiện thông lượng.
Phần mềm:

Android 12 trở lên hoặc Linux kernel 5.x trở lên để chạy ở chế độ nhẹ nhàng.
AI Edge SDK v1.2.0 trở lên, có sẵn thông qua kho lưu trữ apt và Maven của Google.
Python 3.9+ hoặc Java 11+ để biết các thư viện máy khách mẫu.

Làm thế nào để tích hợp Gemma 3n vào ứng dụng Android?

Thêm phụ thuộc AI-Edge-Lite

groovyimplementation 'com.google.ai:edge-lite:1.2.3'

Tải mô hình nhị phân

javaModelLoader loader = new ModelLoader(context, "gemma-3n.tflite"); EdgeModel model = loader.load();

Chạy suy luận

javaTensor input = Tensor.fromImage(bitmap); Tensor output = model.run(input); String caption = output.getString(0);

Xử lý đầu vào đa phương thức
Sử dụng EdgeInputBuilder để kết hợp các tenxơ văn bản, hình ảnh và âm thanh trong một lệnh suy luận duy nhất.

Làm thế nào để tôi có thể dùng thử Gemma 3n cục bộ trên Linux?

Tải xuống Mô hình TFLite: Có sẵn thông qua thùng lưu trữ Google Cloud Storage:

arduinogs://gemma-models/gemma-3n.tflite

Cài đặt Python SDK:

bashpip install ai-edge-lite

Ví dụ suy luận Python:

 pythonfrom edge_lite import EdgeModel model = EdgeModel("gemma-3n.tflite") response = model.generate_text("Explain quantum entanglement in simple terms.") print(response)

Những trường hợp sử dụng điển hình của Gemma 3n là gì?

Bằng cách kết hợp sức mạnh đa phương thức với hiệu quả trên thiết bị, nó mở ra những ứng dụng mới trên nhiều ngành công nghiệp.

Ứng dụng tiêu dùng nào được hưởng lợi nhiều nhất?

Trợ lý hỗ trợ camera: Mô tả hoặc dịch cảnh theo thời gian thực trực tiếp trên thiết bị, không có độ trễ đám mây.
Giao diện Voice-First: Trợ lý giọng nói riêng tư, ngoại tuyến trên ô tô hoặc thiết bị nhà thông minh.
Thực tế ảo tăng cường: Nhận dạng đối tượng trực tiếp và chèn chú thích trên kính AR.

Gemma 3n được sử dụng như thế nào trong các tình huống doanh nghiệp?

Kiểm tra hiện trường: Công cụ kiểm tra ngoại tuyến cho các tiện ích và cơ sở hạ tầng, tận dụng khả năng suy luận hình ảnh-văn bản trên thiết bị di động.
Xử lý tài liệu an toàn:AI tại chỗ để phân tích tài liệu nhạy cảm trong lĩnh vực tài chính hoặc chăm sóc sức khỏe, đảm bảo dữ liệu không bao giờ rời khỏi thiết bị.
Hỗ trợ đa ngôn ngữ: Biên dịch và tóm tắt tức thời các thông tin liên lạc quốc tế theo thời gian thực.

Kết luận

Gemma 3n đại diện cho một bước tiến đáng kể trong việc mang lại AI tạo ra đa phương thức mạnh mẽ vào lòng bàn tay của bạn. Bằng cách kết hôn hiệu quả hiện đại với thiết kế ưu tiên quyền riêng tư, sẵn sàng ngoại tuyến, nó trao quyền cho các nhà phát triển tạo ra những trải nghiệm thông minh tôn trọng dữ liệu người dùng và hoạt động với độ trễ tối thiểu. Cho dù bạn đang tạo nguyên mẫu trong Google AI Studio, thử nghiệm thông qua Hugging Face hay tích hợp thông qua Gen AI SDK, nó đều cung cấp một nền tảng linh hoạt cho sự đổi mới trên thiết bị. Khi mô hình và hệ sinh thái của nó trưởng thành—với Gemini Nano đang ở phía trước—lời hứa về AI thực sự phổ biến, riêng tư và phản hồi ngày càng trở nên gần hơn với hiện thực.

Bắt đầu

CometAPI cung cấp giao diện REST thống nhất tổng hợp hàng trăm mô hình AI—bao gồm cả gia đình Gemini—dưới một điểm cuối nhất quán, với quản lý khóa API tích hợp, hạn ngạch sử dụng và bảng điều khiển thanh toán. Thay vì phải xử lý nhiều URL và thông tin xác thực của nhà cung cấp.

Các nhà phát triển có thể truy cập Gemini 2.5 Flash Pre API (người mẫu:gemini-2.5-flash-preview-05-20) Và API Gemini 2.5 Pro (người mẫu:gemini-2.5-pro-preview-05-06)vv thông qua Sao chổiAPI. Để bắt đầu, hãy khám phá khả năng của mô hình trong Sân chơi và tham khảo ý kiến Hướng dẫn API để biết hướng dẫn chi tiết. Trước khi truy cập, vui lòng đảm bảo bạn đã đăng nhập vào CometAPI và lấy được khóa API.