2024
09-05
09-05
Intel首批通过AISBench大模型性能测试！5代至强可达每秒2493 token NEW
快科技9月5日消息，近日，第五代英特尔至强处理器，以优秀的表现通过了中国电子技术标准化研究院组织的人工智能服务器系统性能测试（AISBench）。借此，英特尔也成为首批通过AISBench大语言模型（LLM）推理性能测试的企业。 在AISBench 2.0测试工具的评估下，第五代英特尔至强处理器在ChatGLM V2-6B（60亿参数）和Llama2-13B（130亿参数）两个模型上均展现了卓越的性能，能够满足轻量级大语言模型的实时推理要求。 测试结果显示，在60亿参数的C...
Read More >