DeepSeek-V4.1-Flash ingesteld op AI-agents
AI-ontwikkelaar DeepSeek heeft met de introductie van DeepSeek-V4.1-Flash een nieuw multimodaal Mixture-of-Experts (MoE) model uitgebracht. Het model kent een architectuur met 552 miljard parameters, ondersteunt een contextvenster tot één miljoen tokens en is ontworpen om zowel tekst als afbeeldingen verwerken. Met een reeks innovaties op het gebied van geheugenbeheer richt de Chinese AI-pionier zich specifiek op kostenefficiënte en intensieve AI-agentic workloads.
Met de V4.1-Flash-generatie introduceert DeepSeek een zogeheten Causal Encoder-Decoder (CED) architectuur, bestaande uit 40 Transformer-lagen. Doordat het model de KV-cache efficiënt projecteert, activeert het slechts 8 miljard parameters per token tijdens de verwerkingsfase (prefill) en 16 miljard parameters tijdens de gegenereerde fase (decode).
Geheugenvoetafdruk drastisch verlaagd
Een van de meest in het oog springende kenmerken van DeepSeek-V4.1-Flash is de sterke reductie van het vereiste werkgeheugen. Door de inzet van Compressed Sparse Attention 2 (CSA2) en FP4-kwantisering van de cache wordt de wereldwijde KV-cachevoetafdruk teruggebracht tot 890 bytes per token.
Volgens de ontwikkelaars betekent dit een verviervoudiging van de efficiëntie vergeleken met de vorige generatie (DeepSeek-V4-Flash) en een reductie van een factor 437 ten opzichte van de allereerste DeepSeek-V1. Hierdoor kunnen organisaties lange contexten en complexe agent-taken draaien tegen aanzienlijk lagere infrastructuurkosten.
Hoge prestaties op software- en agentic benchmarks
Het model is getraind op een multimodale dataset van 45 biljoen tokens. Naast taal- en wiskundige taken presteert V4.1-Flash sterk op agent-benchmarks zoals Terminal-Bench en DeepSWE v1.1 (software engineering), waar het prestatieniveaus behaalt die wedijveren met en soms superieur zijn aan gevestigde propriëtaire modellen zoals Claude 3.5 Sonnet of GPT-varianten.
Een nieuwe functionaliteit in de instructie-uitvoering is een traploos instelbare reasoning effort (schaal 1-100), waarmee gebruikers het denkproces van het model exact kunnen afstemmen op het gewenste niveau van nauwkeurigheid versus verwerkingskosten.
Open-source en directe beschikbaarheid
In lijn met de eerdere strategie van DeepSeek zijn de modelgewichten en de bijbehorende code per direct vrijgegeven onder een ruimhartige MIT-licentie. Ontwikkelaars kunnen gebruikmaken van Python- en Rust-referentie-implementaties (deepseek-recipe) om het model lokaal of in de cloud te implementeren voor integratie met agent-frameworks en bedrijfssystemen.
Meer over ai
Over Witold Kepinski
