Gemini 端云协同部署指南

## Gemini 端云协同部署指南 ### 2026年Q2端云协同架构 主流方案为"云端70B通用大模型+端侧10B-30B轻量化场景模型"： | 级别 | 模型 | 适用场景 | |------|------|----------| | 云端 | Gemini 3.1 Pro | 复杂推理、长文档 | | 云端 | Gemini 3.1 Flash | 日常对话、快速响应 | | 端侧 | Gemini Nano | 设备端离线推理 | ### Vertex AI 部署 ```python import vertexai from vertexai.preview.generative_models import GenerativeModel vertexai.init(project="your-project", location="us-central1") model = GenerativeModel("gemini-3.1-pro") response = model.generate_content("Hello") print(response.text) ``` ### 本地部署（ONNX） ```bash pip install transformers ``` ```python from transformers import AutoModelForCausalLM model = AutoModelForCausalLM.from_pretrained("google/gemini-nano-3") ``` ### 成本优化 - 使用 A100/GPU 实例按需缩放 - 开启 Prompt Caching 降低重复输入成本 - Flash 版本处理简单任务节省费用