AI
产品
行业
生态

AMD 锐龙 AI MAX+ 395原生支持Qwen3 32B大模型

来源: 原创 作者:AMD中国AI应用创新联盟 2025-4-30 11:17:00

AMD中国AI应用创新联盟AI评测实验室在Qwen3开放的第一时间,基于AMD锐龙AI MAX+ 395平台,选取了Qwen3的32B稠密模型和30B的MoE模型进行了适配性测试。

4月29日,通义千问推出了Qwen3,开源模型包括2个MoE模型和6个Dense模型,MoE模型参数分别是235B(220 多亿激活参数)和30B(30 亿激活参数),Dense模型参数分别是32B、14B、8B、4B、1.7B和0.6B。其模型表现更是备受好评!旗舰模型 Qwen3-235B-A22B 在代码、数学、通用能力等基准测试中,与 DeepSeek-R1、o1、o3-mini、Grok-3 和 Gemini-2.5-Pro 等顶级模型相比,表现出极具竞争力的结果。此外,小型 MoE 模型 Qwen3-30B-A3B 的激活参数数量是 QwQ-32B 的 10%,表现更胜一筹,甚至像 Qwen3-4B 这样的小模型也能匹敌 Qwen2.5-72B-Instruct 的性能。

 

AI PC作为大语言模型应用的主要硬件载体之一,他们对Qwen3的适配情况如何?AMD中国AI应用创新联盟AI评测实验室在Qwen3开放的第一时间,基于AMD锐龙AI MAX+ 395平台,选取了Qwen3的32B稠密模型和30B的MoE模型进行了适配性测试。

 

测试结果表明,得益于128G的大内存配置,AMD锐龙AI MAX+ 395可以原生支持Qwen3的30BMoE和32B稠密模型。并且,其推理表现也值得称赞。

 

测试工具:Ollama+Page assist

模型1:qwen3:30b

测试表现:

Prompt:用金庸的风格,写一篇300字的短篇小说

思考用时:38s

推理速度:11.83tok/s

 

模型2:qwen3:32b

Prompt:用金庸的风格,写一篇300字的短篇小说

思考用时:45s

推理速度:7.46tok/s

 

 

 

 

免责声明: 该文观点仅代表作者本人,Soft6软件网系信息发布平台,Soft6软件网仅提供信息存储空间服务。 未经允许不得转载,授权事宜请联系:support@soft6.com 如对本稿件有异议或投诉,请查看《版权保护投诉指引》

0
好文章,需要您的鼓励

您可能还喜欢这些资讯