Laboratorium AI asal Hangzhou, DeepSeek, merilis laporan teknis mendalam mengenai arsitektur model V3 mereka. Melalui inovasi dynamic sparsity dan penyeimbangan beban komputasi tingkat micro-batch, proses pre-training berhasil dioptimalkan drastis.
Langkah ini kembali membuktikan bahwa inovasi algoritmik dan efisiensi kernel CUDA mampu mengimbangi keterbatasan klaster komputasi raksasa tanpa mengorbankan kualitas penalaran logis.
