Deepseek est étonnamment bon marché, le modèle d'IA défie les géants de l'industrie. La société prétend avoir formé son puissant réseau de neurones Deepseek V3 pour seulement 6 millions de dollars en utilisant seulement 2048 GPU, sachant considérablement les concurrents. Cependant, ce chiffre est trompeur.
Image: esigame.com
Deepseek V3 exploite les technologies innovantes: Prédiction multi-token (MTP) pour une précision et une efficacité améliorées; Mélange d'experts (MOE) , en utilisant 256 réseaux neuronaux, pour accélérer la formation et améliorer les performances; et Attention latente multi-tête (MLA) pour se concentrer sur les éléments de phrase cruciaux, minimisant la perte d'informations.
Image: esigame.com
Contrairement à leur réclamation initiale, la semianalyse a révélé une infrastructure approfondie de Deepseek, comprenant environ 50 000 GPU Nvidia Hopper dans plusieurs centres de données, ce qui représente un investissement total d'environ 1,6 milliard de dollars et les coûts opérationnels de 944 millions de dollars. Cela comprend des investissements substantiels dans le personnel, certains chercheurs gagnant plus de 1,3 million de dollars par an.
Image: esigame.com
Deepseek, une filiale de High Flyer, un fonds spéculatif chinois, possède ses centres de données, fournissant un plus grand contrôle et une mise en œuvre plus rapide de l'innovation. Cette approche autofinancée contribue à son agilité. Le chiffre de 6 millions de dollars ne reflète que les coûts GPU avant la formation, l'exclusion de la recherche, du raffinement, du traitement des données et des infrastructures. L'investissement réel de Deepseek dans le développement de l'IA dépasse 500 millions de dollars.
Image: esigame.com
Alors que le succès de Deepseek découle des investissements substantiels, des progrès technologiques et une équipe qualifiée, son récit "favorable à un budget" est une simplification excessive. Cependant, même avec les chiffres corrigés, les coûts de Deepseek sont toujours pâles par rapport aux concurrents. Par exemple, le modèle R1 de Deepseek a coûté 5 millions de dollars pour s'entraîner, tandis que ChatGPT-4 coûte 100 millions de dollars. L'efficacité et la structure ciblée de l'entreprise lui permettent cependant de concurrencer efficacement les géants de l'industrie, malgré l'investissement substantiel impliqué.
