微软公司于04/23宣布推出了phi-3系列人工智能模型,这是迄今为止该公司创建的最小的人工智能模型。phi-3模型作为目前功能最强大、最具成本效益的小型语言模型,得益于microsoft研究人员开发的创新训练技术,phi-3在各种基准测试中表现优异,包括语言评估、编码和数学能力评估,超越了同尺寸甚至更大尺寸的其他模型。
目前,微软仅发布了mini版本,该版本包含38亿个参数,性能比两倍大小的模型更出色,而且还可以在手机上运行!
phi-3模型将在microsoft azure ai模型目录、hugging face(机器学习模型平台)以及ollama(用于在本地计算机上运行模型的轻量级框架)上提供。此外,它还将作为nvidia nim微服务提供,具备标准api接口,可在任何地方部署。

微软还宣布将推出phi-3系列的其他型号,以提供更多选择。预计很快将在azure ai模型目录和其他模型平台上推出phi-3-small(70亿个参数)和phi-3-medium(140亿个参数)。
1.下载lm studio
首先,您需要下载并安装lm studio,您可以通过访问lm studio澳门人威尼斯3966官网(lmstudio.ai)下载适用于您操作系统的版本。
2.登录hugging face
在浏览器中输入huggingface.co进入网站,或者直接访问。
链接:
https://huggingface.co/collections/microsoft/phi-3-6626e15e9585a200d2d761e3

3.下载phi-3 mini 模型
在搜索框中输入“phi-3”进行搜索。在搜索结果中,找到名称为
microsoft/phi-3-mini-4k-instruct-gguf的模型,选择并下载最新版本,通常标有“最新”或具体的版本号,如q4,因为它只有2.32gb。

请注意:phi-3 7b mini的某些版本可能针对性能进行了优化,例如提供更快的处理速度或更低的资源消耗,因此请根据您的需求选择合适的版本。
4.开始使用phi-3 mini 模型
模型下载和安装完成后,您可以立即开始使用phi-3 mini模型。在lm studio的左侧菜单中,点击“ai chat”标签,然后在顶部的模型选择栏中选择phi-3 mini模型,此时您就可以进行使用了。