“小模子”期间来了？微软推出轻量级AI模子 性能比好意思GPT-3.5但便宜得多！
发布日期：2024-05-04 04:51 点击次数：161好意思东本事周二，微软推出了一款轻量级AI模子Phi-3-mini。
微软宣称，这款轻量级AI模子的性能与GPT-3.5等模子卓绝，同期适当在手机上腹地使用。而更伏击的是，该款模子的本钱要便宜很多，这意味着它不错通过本钱上风眩惑更宽泛的客户群。
微软发布小话语模子
Phi-3-mini是微软蓄意发布的三款微型话语模子（SLM）中的第一款。
Phi-3 mini的可测量参数为38亿个，其前一版块是微软究诘院于2023年底发布的Phi-2模子，该模子具备27亿个可测量参数。微软暗示，Phi-3的性能比前一版块更好，其反应速率接近比它大10倍的模子。
微软暗示，字据学术基准和里面测试对Phi-3 mini的性能进行评估后发现，该模子有才气与“Mixtral 8x7B和GPT-3.5”等模子竞争。
该公司暗示，期货配资Phi-3 mini在大界限多任务话语齐集（MMLU）测试中获取了69%的评分，在Multi-turn（MT）基准测试中获取了8.38的评分。
不外微软也承认，尽管具有与LLM相比好意思的才气，但Phi-3 mini“在履行某些任务时，从根柢上受到容量的司法”。“该模子不具备存储太多事实常识的才气”，不外微软断言“这种缺点不错通过搜索引擎的增强来科罚”。
“不仅仅便宜极少”
微软观念生成式AI究诘的副总裁Sassabastien Bubeck强调：“Phi-3不仅仅稍稍便宜极少，而是便宜得多。与具有近似功能的其他模子比拟，他们的本钱收支10倍。”
小话语模子旨在履行更浅易的任务，这意味着它更适配于那些资源有限的公司。
该公司暗示，Phi-3-mini将即刻在微软云干事平台Azure的东说念主工智能模子目次、机器学习模子平台hugs Face和用于在腹地机器上启动模子的框架Ollama上提供。
Phi-3-mini还将不错在英伟达的软件器用Nvidia Inference Microservices (NIM)上使用，况兼还针对其图形处理单位（GPU）进行了优化。