2024
10-01
10-01
AMD发布首个AI小语言模型：6900亿token、推测解码提速3.88倍 NEW
快科技10月1日消息，AMD发布了自己的首个小语言模型(SLM)，名为“AMD-135M”。相比于越来越庞大的大语言模型(LLM)，它体积小巧，更加灵活，更有针对性，非常适合私密性、专业性很强的企业部署。AMD发布首个AI小语言模型：6900亿token、推测解码提速3.88倍AMD-135小模型隶属于Llama家族，有两个版本：一是基础型“AMD-Llama-135M”，拥有多达6700亿个token，在八块Instinct MIM250 64GB加速器上训练了六天。二是延...
Read More >