iPhone 上本地每秒生成 12 个 tokens，微软发布 phi-3-mini 模型：38 亿参数

IT之家 4 月 23 日消息，微软研究院近日发布技术报告，公布了 Phi-3 系列 AI 模型，共有 mini（38 亿参数）、small（70 亿参数）和 medium（140 亿参数）三个版本。

微软表示拥有 38 亿参数的 phi-3-mini 通过 3.3 万亿个 tokens 上训练，其基准跑分性能超出 Mixtral 8x7B 和 GPT-3.5。

微软表示 phi-3-mini 模型可以部署在手机等设备上，在 27 亿参数的 Phi-2 模型上，进一步整合了严格过滤的网络数据和合成数据。

微软也坦言 phi-3-mini 模型虽然通过优质数据在语言理解和推理能力上媲美更大参数的 AI 模型，但在 TriviaQA 等某些任务上依然受到模型规模的限制。

微软还表示 phi-3-small 和 phi-3-medium 两个模型在 MMLU 上的得分分别为 75.3 和 78.2。

IT之家附上参考

Phi-3 Technical Report: A Highly Capable Language Model Locally on Your Phone

相关阅读：

《微软发文：27 亿参数的 Phi-2 AI 模型性能优于谷歌 32 亿参数的 Gemini Nano-2》

《27 亿参数，微软发布 Phi-2 模型：某些性能指标优于 Llama-2-7B》

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。

投诉水文 我要纠错