本文作者:创意奇才

Mistral 发布 Ministral 3B_8B,“全球最好的边缘模型”

创意奇才 10-20 96
Mistral 发布 Ministral 3B_8B,“全球最好的边缘模型”摘要: 新赛季媒体日湖人队号新秀布朗尼詹姆斯接受了记者采访布朗尼我知道我不会马上被安排到轮换阵容中所以我已经接受了这个角色每天都在进步向老将和将要获得大量上场时间的球员学习之家月日消息公司...

NBA新赛季媒体日,湖人队58号新秀布朗尼-詹姆斯接受了记者采访。布朗尼:“我知道我不会马上被安排到轮换阵容中,所以,我已经接受了这个角色,每天都在进步,向老将和将要获得大量上场时间的球员学习。

IT之家 10 月 17 日消息,Mistral 公司 推出了 Ministral 3B 和 Ministral 8B 两款 AI 模型,并不需要连接云服务器,重点提高笔记本电脑和智能手机等设备的本地化 AI 体验, 声称是“世界上 的边缘模型”。

Mistral 公司表示越来越多的企业希望能够在个人设备上运行 AI 模型,一方面确保安全的数据处理,另一方面也提高响应速度。

Mistral 发布 Ministral 3B_8B,“全球最好的边缘模型”

上述两个模型可在没有互联网接入的情况下,执行翻译服务、本地分析和机器人等多项服务。

这两个 AI 模型的上下文窗口均为 128K,相当于一次可以处理 50 页文档。

Ministral 8B 的价格为每百万个 tokens 售价 0.1 美元,而 3B 版本则为 0.04 美元,适合小规模操作或初创开发者。Ministral 8B 采用了特殊的交错滑动窗口注意力机制,这种设计可以在推理时更快且节省内存。IT之家附上相关性能图表如下:

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

阅读
分享