Mistral 的 Decoder-only、MoE 与“领域专家”分别是什么意思?
mistral small 是 decoder only 架构还是 moe 架构?
我看到 mistral 的报告里有这么一句话:
Fine-tuning for specialized domains: Mistral Small 3.1 can be fine-tuned to specialize in specific domains, creating accurate subject matter experts.
这是什么意思?是在暗示 moe 架构吗?
(编辑说明:保留原两轮提问;厂商英文为原问引文节录,省略不影响架构疑问的行业举例。)