开源ai大模型的部署与运行-上海傲慕捷网络科技有限公司

苹果发布小型开源AI模型OpenELM:专为在设备上运行而设计鞭牛士报道，4月25日消息，据外电报道，苹果今天发布了几个开源大型语言模型(LLM),这些模型旨在在设备上运行，而不是通过云服务器运行，称为OpenELM(开源高效语言模型),可在Hugging Face Hub(一个共享AI 代码的社区)上获取。正如白皮书[ PDF ] 中所述，共有八个OpenELM 模型，其后面会介绍。

⊙﹏⊙

红帽发布 RHEL AI,用于无缝开发、测试、运行开源生成式 AI 模型(RHEL AI)开发者预览版。红帽官方对其定位为基础模型平台，用于无缝开发、测试和运行同类最佳的开源Granite 生成式人工智能模型，为企业小发猫。以及InstructLab 模型对齐工具，通过LAB(Large-scale Alignment for chatBots)方法形成可引导的RHEL 镜像，进一步简化服务器部署。RHEL AI小发猫。

˙０˙

智谱 AI 开源 CogVideoX-5B 视频生成模型,RTX 3060 显卡可运行IT之家8 月28 日消息，智谱AI 开源了CogVideoX-5B 视频生成模型，相比此前开源的CogVideoX-2B,官方称其视频生成质量更高，视觉效果更好。官方表示大幅度优化了模型的推理性能，推理门槛大幅降低，可以在GTX 1080Ti 等早期显卡运行CogVideoX-2B ,在RTX 3060 等桌面端“甜品好了吧！

大模型训练可“自动驾驶”,蚂蚁集团全面开源相关技术|AI前哨蚂蚁集团AI创新研发部门NextEvo全面开源AI Infra技术，可帮助大模型千卡训练有效时间占比超过95%,能实现训练时“自动驾驶”，这推动了AI研发效率。该技术框架名为DLRover,目标在于大规模分布式训练的智能化。目前很多企业的训练作业都是跑在混合部署的集群中，运行环境复杂多是什么。

o(╯□╰)o

微软开源 bitnet.cpp:不靠 GPU 本地运行千亿参数 AI 模型IT之家10 月19 日消息，科技媒体marktechpost 昨日(10 月18 日)发布博文，报道称微软公司开源了bitnet.cpp,这是一个能够直接在CPU 上运行等会说。用户能够在本地运行模型，降低数据发送至外部服务器的需求，增强隐私保护。微软的“1-bit AI Infra”计划也在进一步推动这些模型的工业应用等会说。

“最强文生图开源 AI 模型”,Stable Diffusion 3 Medium 发布IT之家6 月13 日消息，Stability AI 发布了Stable Diffusion 3 Medium(下文简称SD3 Medium),官方声称是“迄今为止最先进的开源模型”，其性能等会说。相比较一些资源密集型AI 模型，SD3 Medium 可以在消费级显卡上运行，可以加速普及适配。Stability AI 在非商业许可下提供SD3 Medium,供免等会说。

谷歌急了?开源Gemini大模型技术!一月连放三大招复仇OpenAI作者| 香草李水青编辑| 李水青就在刚刚，谷歌向最强开源大模型的宝座发起进攻！智东西2月22日报道，昨日晚间，谷歌毫无预兆地发布了开源模型等会说。 Gemma官网地址：https://ai.google.dev/gemmaGemma开源地址：https://www.kaggle.com/models/google/gemma/code/一、采用Gemini相同架构等会说。

亚马逊与 Hugging Face 合作:定制芯片低成本运行 AI 模型当开发人员调整了开源的AI 模型后，他们通常希望使用该模型来驱动软件。亚马逊和Hugging Face 周三宣布，他们已经合作在一个名为Inferentia2 的定制亚马逊网络服务(AWS)芯片上实现这一目标。“对我们来说，效率非常重要——确保尽可能多的人能够运行模型，并且能够以最具成本还有呢？

谷歌发布 NeuralGCM 天气预报 AI 模型:运行成本更低、预测更准IT之家7 月23 日消息，谷歌公司最新发布了名为NeuralGCM 的全新AI 模型，结合机器学习和传统技术，构建了全新的AI 天气预测模型，相关成果等会说。 NeuralGCM 模型是开源的，用户可以在笔记本电脑上相对快速地运行。NeuralGCM 模型由谷歌研究院、谷歌DeepMind、麻省理工学院、哈佛等会说。

DeepMind开源生物分子预测模型诺奖成果将掀起AI制药浪潮?开源了其曾获诺贝尔奖的药物研发AI模型AlphaFold 3。此举意味着，从今以后来自生物医药各个领域的研究者可以免费下载模型代码，自行运行该模型以开展药物研发工作。公开资料显示，谷歌AlphaFold模型可用于预测蛋白质结构和相互作用。而该模型的最新版本AlphaFold 3在蛋白质预还有呢？

≥▽≤

原创文章，作者：上海傲慕捷网络科技有限公司，如若转载，请注明出处：http://geyewr.cn/dfdsepi6.html

开源ai大模型的部署与运行

相关推荐

发表评论