Deepseek's verrassend goedkope AI -model daagt reuzen uit de industrie uit. Het bedrijf beweert zijn krachtige Deepseek V3 -neurale netwerk te hebben getraind voor slechts $ 6 miljoen met slechts 2048 GPU's, die concurrenten aanzienlijk ondergraven. Dit cijfer is echter misleidend.
afbeelding: ensigame.com
Deepseek V3 maakt gebruik van innovatieve technologieën: Multi-Token Prediction (MTP) voor verbeterde nauwkeurigheid en efficiëntie; Mix van experts (MOE) , met behulp van 256 neurale netwerken, om de training te versnellen en de prestaties te verbeteren; en multi-head latente aandacht (MLA) om zich te concentreren op cruciale zinselementen, het minimaliseren van informatieverlies.
afbeelding: ensigame.com
In tegenstelling tot hun initiële claim, onthulde Semianalysis De Deepseek's uitgebreide infrastructuur, bestaande uit ongeveer 50.000 NVIDIA -hopper GPU's over meerdere datacenters, wat een totale investering van ongeveer $ 1,6 miljard en operationele kosten van $ 944 miljoen vertegenwoordigt. Dit omvat aanzienlijke investeringen in personeel, waarbij sommige onderzoekers jaarlijks meer dan $ 1,3 miljoen verdienen.
afbeelding: ensigame.com
Deepseek, een dochteronderneming van High-Flyer, een Chinees hedgefonds, bezit zijn datacenters en biedt meer controle en snellere implementatie van innovatie. Deze zelf gefinancierde aanpak draagt bij aan zijn behendigheid. Het cijfer van $ 6 miljoen weerspiegelt alleen PRPU-kosten voor de training, exclusief onderzoek, verfijning, gegevensverwerking en infrastructuur. De werkelijke investering van Deepseek in AI -ontwikkeling is groter dan $ 500 miljoen.
afbeelding: ensigame.com
Hoewel het succes van Deepseek voortkomt uit substantiële investeringen, technologische vooruitgang en een bekwaam team, is het "budgetvriendelijke" verhaal een te vereenvoudiging. Zelfs met de gecorrigeerde cijfers zijn de kosten van Deepseek echter nog steeds bleek in vergelijking met concurrenten. Het R1-model van Deepseek kost bijvoorbeeld $ 5 miljoen om te trainen, terwijl Chatgpt-4 $ 100 miljoen kostte. De efficiëntie en gerichte structuur van het bedrijf stellen het echter in staat om effectief te concurreren met industriële reuzen, ondanks de substantiële investeringen.
