OpenVINO™ 是一个深度学习模型的部署工具，可实现针对特定模型结构的优化与推理任务提升，目前 OpenVINO™ 已适配x86，ARM 在内的异构硬件终端，支持 CNN，Transformer 等多种网络结构，提供 C/C++/Python 等多类 API 接口语言，不管是传统的机器视觉 NLP 模型，或是最新的 LLM 多模态模型，都可以利用 OpenVINO™ 工具包中提供的丰富接口进行
openlab_96bf3613
7月前
实战精选 | 一步安装，一步配置：用 vLLM + OpenVINO™ 轻松加速大语言模型推理
作者 | 武卓 博士 英特尔 OpenVINO™ 布道师 随着大语言模型的广泛应用，模型的计算需求大幅提升，带来推理时延高、资源消耗大等挑战。vLLM 作为高效的大模型推理框架，通过 OpenVINO™ 的优化，vLLM 用户不仅能够更高效地部署大模型，还能提升吞吐量和处理能力，从而在成本、性能和易用性上获得最佳平衡。这种优化对于需要快速响应和节省资源的云端或边缘推理应用尤为重要。目前，OpenV
openlab_96bf3613
7月前
重磅来袭：AI Vision Toolkit for OpenVINO for LabVIEW全新升级上线！
大家好，这里是仪酷智能VIRobotic****r/> NI官网发布 【LabVIEW OpenVINO工具包】自2022年面世以来，凭借其卓越的性能、友好的用户界面以及强大的功能集成，赢得了业界的广泛认可。经过不断的优化升级，【LabVIEW OpenVINO工具包】迎来了全新升级！新版本有一个全新的名字，AI Vision Toolkit for OpenVINO for LabVIEW（简称
openlab_96bf3613
7月前
作者：杨亦诚 英特尔 AI 软件工程师 智能体 AI Agent 作为大模型的衍生应用，具有对任务的理解、规划与行动能力。它可以通过将一个复杂的用户请求拆分成不同的子任务，并依次调用外部工具来解决这些任务，并将其中每个任务步骤的执行结果，按预先规划的逻辑串联起来，从而达成最终的目的。 接下来我们就通过一个例子，演示如何利用 OpenVINO™ 工具套件在你的电脑上的一步步搭建本地智能体流水线。
openlab_96bf3613
7月前
原文链接：【哪吒开发板试用】+YOLO-obb应用_哪吒开发套件_weixin_44397923-英特尔开发套件专区 随着工业4.0的到来，工业上使用深度学习越来越频繁，为了更好的适应市场的发展和行业的 发展，参考著名开源作者颜国进英特尔边缘计算创新大使的项目，结合自己对行业的了解。开发下面项目案例 一、什么是YOLO YOLO（You Only Look Once）是一种流行的目标检测算法，它的
openlab_96bf3613
7月前
