OpenVINO2024.2 - 三行代码完成生成式AI部署
英特尔边缘计算创新大使 贾志刚 OpenVINO介绍OpenVINO2024.2版本跟之前版本最大的不同是OpenVINO2024.2分为两个安装包分别是基础包与生成式AI支持包，新发布的GenAI开发包支持C++与Python语言接口调用，支持多种LLM加载与推理部署能力，实现了OpenVINO对CNN网络、生成式模型、LLM网络主流模型的全面推理支持。安装包下载地址如下：https://doc
openlab_96bf3613
11月前
用 OpenVINO™ C# API 在intel平台部署 YOLOv10 目标检测模型
作者：英特尔边缘计算创新大使 颜国进 最近YOLO家族又添新成员：YOLOv10，YOLOv10 提出了一种一致的双任务方法，用于无nms训练的YOLOs，它同时带来了具有竞争力的性能和较低的推理延迟。此外，还介绍了整体效率-精度驱动的模型设计策略,从效率和精度两个角度对YOLOs的各个组成部分进行了全面优化，大大降低了计算开销，增强了性能。在本文中，我们将结合OpenVINO™ C# API 使
openlab_96bf3613
11月前
一、 注册&登录 ModelScope 1. 进入 ModelScope（https://www.modelscope.cn/home），右上角点击完成新用户的注册；2. 注册完成后，登录 ModelScope，进入首页，请确定已经绑定阿里云账号，并已获得免费的配套云计算资源。启动 CPU 服务器：3. 启动成功后，点击“查看” 二、环境配置 1. 点击 Terminal 图标，打开终端命令行环境
openlab_96bf3613
1年前
OpenVINO™ 助力 Qwen 2 —— 开启大语言模型新时代
就在刚刚，阿里魔搭社区发布了全新的 Qwen 2 系列模型 ，作为 Qwen 及魔搭社区的重要合作伙伴，OpenVINO™ 一直致力于赋能开发者高效搭建人工智能解决方案，助力大规模语言模型的性能提升和应用扩展。接下来，由小编来为大家介绍本次 Qwen 2 的发布亮点并全面讲解 OpenVINO™ 对于 Qwen 2 的强力支持。Qwen 2 全新发布，OpenVINO™ 强力支持，赋能开发者高效
openlab_96bf3613
1年前
在英特尔® 酷睿™ Ultra7处理器上优化和部署Phi-3-min模型
作者 英特尔边缘计算创新大使 王一凡1.1 Phi-3-mini模型简介2024年4月23日，微软研究院公布Phi-3系列AI大模型，包含三个版本：mini(3.8B参数)、**all(7B参数)以及medium(14B参数)。phi-3-mini是一个拥有3.8B参数规模的模型，其训练数据集基于Phi-2所使用数据集的扩大版本，由大量过滤后的网络数据和合成数据组成，经过3.3T tokens的训
openlab_96bf3613
1年前
