Choose your path
Blog deepseek v4
Como executar o DeepSeek-V4.1-Flash localmente?
Resumo prático para rodar localmente o DeepSeek‑V4.1‑Flash com vLLM (e alternativas), cobrindo requisitos de GPU, checkpoint de 511 GB, comandos de setup, SGLang, Ollama e opções de API. 1) Pré‑requisitos gerais - Pesos/checagem: confirme que você tem acesso legal ao checkpoint do modelo (aprox. 511 GB em FP16/BF16) e ao tokenizer correspondente. - Armazenamento: NVMe rápido (recomenda‑se ≥ 1 TB livres para pesos, cache do Hugging Face e espaço de swap/temporários). - Sistema: Linux 64‑bit, drivers NVIDIA atualizados, CUDA/cuDNN compatíveis, Python 3.10+. - Rede/IO: se o checkpoint estiver em repositório remoto (ex.: Hugging Face), configure HF_HOME em disco NVMe para acelerar o download/cache. 2) Requisitos de hardware (estimativas) - FP16/BF16 (sem quantização): ~511 GB só para pesos + KV cache em VRAM. Prática comum: 8×80 GB (A100/H100) com NVLink para sobra e throughput, ou ≥ 6×80 GB com tuning agressivo e/ou offload. - Quantização (int8/int4): reduz o footprint de pesos. Em int4, espere algo na faixa de ~3,0–4,0× menor que FP16 (aprox. 130–170 GB para os pesos) + KV cache. Ainda assim, geralmente exige 2–4 GPUs de 80 GB para rodar com folga. - RAM: se usar offload de pesos/KV para CPU, tenha RAM suficiente (igual ou superior ao tamanho efetivo dos pesos), com impacto de latência/throughput. - Energia e resfriamento: dimensione para cargas sustentadas de alto uso de GPU. 3) vLLM: instalação e execução - Instalação - Python venv recomendado. - Selecione o wheel com CUDA compatível para sua máquina: - pip install vllm-cu121 (ou vllm-cu122/vllm-cu12x conforme sua CUDA) - Alternativa genérica: pip install vllm - Instale PyTorch com CUDA correspondente (se necessário) seguindo as instruções oficiais do PyTorch. - Download/organização de pesos - Tenha o caminho local ou ID do repositório (Hugging Face) do DeepSeek‑V4.1‑Flash. - Se for usar quantizados (AWQ/GPTQ), utilize pesos já quantizados compatíveis com vLLM. - Execução (OpenAI‑compatible server) - FP16/BF16 multi‑GPU (exemplo 8 GPUs): - python -m vllm.entrypoints.openai.api_server --model /caminho/para/modelo --dtype bfloat16 --tensor-parallel-size 8 --max-model-len 8192 --gpu-memory-utilization 0.90 --port 8000 - INT4/INT8 (pesos já quantizados; ajuste a flag ao formato disponível no seu repo): - python -m vllm.entrypoints.openai.api_server --model /caminho/para/modelo-quant --quantization awq --tensor-parallel-size 4 --max-model-len 8192 --gpu-memory-utilization 0.95 --port 8000 - Observações - --tensor-parallel-size deve ser igual ao número de GPUs que você quer usar. - Ajuste --max-model-len conforme contexto desejado e VRAM disponível (KV cache cresce com o contexto e a concorrência). - Se necessário, use --swap-space 16 (GB) para aliviar pressão de VRAM, aceitando perda de desempenho. - Para ambientes sem InfiniBand: export NCCL_IB_DISABLE=1 antes de iniciar. - Cliente (exemplo curl) - curl http://localhost:8000/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"DeepSeek-V4.1-Flash","messages":[{"role":"user","content":"Olá!"}]}' 4) SGLang: instalação e execução - Instalação - pip install "sglang[all]" - Verifique drivers/CUDA/torch compatíveis. - Execução - FP16/BF16 multi‑GPU: - python -m sglang.launch_server --model /caminho/para/modelo --tp 8 --dtype bf16 --port 30000 - Quantizado (se suportado pelo build e pelo checkpoint): - python -m sglang.launch_server --model /caminho/para/modelo-quant --tp 4 --quantization awq --port 30000 - Uso via API (compatível com esquema OpenAI): - Base URL: http://localhost:30000/v1 - Exemplo com OpenAI SDK (defina base_url para o servidor SGLang). 5) Ollama: viabilidade e passos - Considerações - Ollama usa GGUF (backend llama.cpp). Para modelos gigantes (~511 GB FP16), é obrigatório quantizar para GGUF (ex.: Q4_K_M) e, mesmo assim, o tamanho pode continuar muito alto. - Suporte multi‑GPU é limitado; o desempenho tende a ser bem inferior a vLLM/SGLang em modelos dessa escala. - Verifique se a arquitetura do DeepSeek‑V4.1‑Flash é suportada por llama.cpp/GGUF e se a licença permite conversão. - Conversão e criação - Converter para GGUF (ferramentas/rotinas específicas do ecossistema llama.cpp; apenas se suportado). - Crie um Modelfile simples: - FROM ./DeepSeek-V4.1-Flash.Q4_K_M.gguf - Registre e rode: - ollama create deepseek-v4.1-flash -f Modelfile - ollama run deepseek-v4.1-flash - Observação - Para produção/performance em modelos muito grandes, prefira vLLM ou SGLang. 6) Alternativas via API (quando local não for viável) - DeepSeek API oficial (quando disponível para o modelo/variant “Flash”) - Exemplo: - curl https://api.deepseek.com/v1/chat/completions -H "Authorization: Bearer $DEEPSEEK_API_KEY" -H "Content-Type: application/json" -d '{"model":"deepseek-v4.1-flash","messages":[{"role":"user","content":"Olá!"}]}' - Provedores com endpoint OpenAI‑compatible para modelos grandes (disponibilidade varia com o tempo) - Together AI, Fireworks.ai, Replicate, Cloudflare AI, entre outros. - Servidores locais OpenAI‑compatible (vLLM/SGLang) - Aponte seu SDK OpenAI para base_url do seu servidor local e use o nome do modelo configurado. 7) Dicas de operação e troubleshooting - Prefira GPUs com NVLink (A100/H100) para reduzir overhead inter‑GPU em tensor parallel. - Verifique consumo em tempo real com nvidia-smi; reduza --max-model-len, concorrência e/ou aplique quantização se houver OOM. - Mantenha HF_HOME em NVMe para acelerar first‑run; use --download-dir (vLLM) para controlar cache. - Confirme tokenizer e trust_remote_code se o repositório exigir (somente para fontes confiáveis). - vLLM é single‑node multi‑GPU; não conte com multi‑node para produção a menos que a versão usada traga suporte explícito e testado. 8) Checklist rápido por cenário - FP16/BF16 puro (checkpoint ~511 GB): 8×80 GB recomendados; comando vLLM com --tensor-parallel-size 8 e --dtype bf16. - Quantizado INT4: 2–4×80 GB (dependendo do alvo de contexto/concurrency); usar pesos AWQ/GPTQ compatíveis; vLLM com --quantization awq/gptq. - Baixo esforço/sem GPU suficiente: usar API (DeepSeek ou provedores terceiros) ou reduzir para um modelo menor. Observação final - As instruções acima assumem que os pesos do DeepSeek‑V4.1‑Flash estão oficialmente disponíveis para uso local. Se não estiverem, utilize a API oficial/terceiros ou outra variante disponível publicamente.
DeepSeek V4.1 Flash vs V4 Pro: Desempenho, Preços e Guia de Migração
Para confirmar: você se refere ao Gemini 1.5 Flash vs Gemini 1.5 Pro? Pergunto porque não há referência oficial a “DeepSeek V4.1 Flash” ou “V4 Pro”. Se for Gemini, posso comparar por arquitetura, benchmarks oficiais, preços de API, visão, concorrência e opções de migração. Se for DeepSeek, indique os modelos exatos (por exemplo, DeepSeek-V3 vs DeepSeek-R1 ou DeepSeek-VL) para eu elaborar a comparação.
Preços da API da DeepSeek: V4 Pro vs. V4.1 Flash
请提供需要翻译的源文本（如官网页面/表格/公告的具体内容）。我将把其中可读文本精准翻译为葡萄牙语，并严格保留原有结构与技术元素。若需比较 DeepSeek V4 Pro 与 V4.1 Flash 的 API 费率、模型 ID、峰/离峰价格、缓存节省与真实工作负载成本，请粘贴原文。
DeepSeek V4 Flash Vision: O que é e como usar
Saiba o que é o DeepSeek V4 Flash Vision, entenda os limites atuais de imagens e os preços, e use a rota via DeepSeek ou CometAPI com código.
Melhores LLMs de pesos abertos e LLMs chineses para programação e raciocínio
Compare DeepSeek V4.1 Flash, Kimi K3, Qwen3.8-Max e GLM 5.3 usando benchmarks de programação, raciocínio e agentes; em seguida, teste-os por meio de uma única integração com o CometAPI.
Como usar a API DeepSeek V4.1 Flash
Como usar a DeepSeek V4.1 Flash API com a CometAPI usando cURL, Python e JavaScript. Explore o modo de raciocínio, a entrada, o streaming e as práticas de produção.
O que é o DeepSeek V4.1 Flash? Arquitetura, recursos & preços
DeepSeek V4.1 Flash explicado: 552B MoE com Causal-Encoder-Decoder, economias no cache KV, benchmarks, preços da API, visão nativa e comparação entre V4 Flash/V4 Pro.
DeepSeek-V4-Flash vs GLM-5.3-Flash: Qual é melhor
Use o DeepSeek-V4-Flash para automação rápida de texto. Escolha o GLM-5.3-Flash para agentes multimodais e hospedagem privada. Ambos os modelos são licenciados sob a licença MIT.