【DeepSeek發(fā)布Prover-V2模型 參數(shù)量達6710億】《科創(chuàng)板日報》30日訊，DeepSeek今日于AI開源社區(qū)Hugging Face上發(fā)布了一個名為DeepSeek-Prover-V2-671B的新模型。據(jù)悉，DeepSeek-Prover-V2-671B使用了更高效的safetensors文件格式，并支持多種計算精度，方便模型更快、更省資源地訓練和部署，參數(shù)達6710億，或為去年發(fā)布的Prover-V1.5數(shù)學模型升級版本。在模型架構(gòu)上，該模型使用了DeepSeek-V3架構(gòu)，采用MoE（混合專家）模式，具有61層Transformer層，7168維隱藏層。同時支持超長上下文，最大位置嵌入達16.38萬，使其能處理復雜的數(shù)學證明，并且采用了FP8量化，可通過量化技術(shù)減小模型大小，提高推理效率。