OpenVINO™ C# API 最新升级:支持 2024.3 Runtime和更多得C#框架

英特尔物联网创新大使 颜国进 1.1 版本更新 各位开发者大家好,目前OpenVINO官方已经发布了最新版本的Runtime 2024.3.0,因此我们根据官方发布的最新版本已经更新了OpenVINO Runtime NuGet包2024.3.0.1,大家可以下载进行测试使用。 此外也对OpenVINO CSharp API程序集进行了更新,修复了一些接口错误,此外本此发布同时编译了多个框架的程序

openlab_96bf3613 10月前
3320 0 0

隆重推出 OpenVINO™ 2024.3: 增强的多头注意力、OneDNN 及vLLM集成显著提升LLM性能

我们很高兴地宣布,OpenVINO™ 2024.3 现已正式推出!本次更新带来了新的功能并对现有功能进行了增强,尤其是大型语言模型 (LLM) 的性能。我们将介绍此版本中的关键改进,更完整的列表,请参阅 发行说明. Hugging Face上的模型专区Hugging Face 作为发现和获取 AI 模型的首选平台,越来越受欢迎。您现在可以在Hugging Face上找到一系列OpenVINO的预

openlab_96bf3613 10月前
2760 0 0

OpenVINO™ 2024.2 发布--推出LLM专属API !服务持续增强,提升AI生成新境界

对我们来说,这是非常忙碌的几周,因为我们正在努力根据您的反馈改进我们的产品特性,并扩展生态系统以涵盖其它场景和用例。 让我们看看我们所做的最重要的更改。有关更详细的列表,您可以随时参考我们的完整 [新版本说明]。隆重推出 OpenVINO.GenAI 软件包和 LLM特定 API生成式 AI 正在被应用程序设计人员快速地使用着。这不仅体现在使用来自商业云服务模型的传统REST API形式上,而且还

openlab_96bf3613 10月前
5592 0 0

英特尔CPU本地部署大语言模型零一万物Yi-1.56B

作者:英特尔创新大使 刘力 英特尔开发者技术推广经理 李翊玮 1.1 零一万物Yi-1.5简介 2024年5月13日,零一万物发了Yi-1.5系列模型。Yi-1.5系列模型在一个包含5000亿个标记的高质量语料库上进行持续的预训练得到增强,并且还在300万个多样化的微调样本上进行了微调。 Github repo: https://github.com/01-ai/Yi-1.5 与Yi相比,Yi-

openlab_96bf3613 11月前
4328 0 0

实战精选 | 如何在一台Linux AI PC上高效运行OpenVINO™

作者:Adrian Boguszewski 英特尔 AI 软件布道师;武卓博士 英特尔 AI 软件布道师 摘要:简单2步,在 AIPC 上快速高效运行 OpenVINO™什么是 AI PC,为什么它有一个特殊的名字?AI PC 是时下PC领域的一个热门话题。与普通 PC 不同,AI PC 配备了先进的硬件,例如强大的 GPU,可以超快地运行具有生成式AI或大语言模型等繁重计算要求的 AI 模型推理

openlab_96bf3613 11月前
4324 0 0