如何在LangChain中调用OpenVINO加速大语言模型
作者：杨亦诚 LangChain简介 LangChain是一个高层级的开源的框架，从字面意义理解，LangChain可以被用来构建 “语言处理任务的链条”，它可以让AI开发人员把大型语言模型（LLM）的能力和外部数据结合起来，从而去完成一些更复杂的任务。简单来说，LangChain可以让你的LLM在回答问题时参考自定义的知识库，实现更精确的答案输出。例如在以下这个Retrieval Augment
openlab_4276841a
1年前
2023 英特尔On技术创新大会中国站，最佳“游览指南”来了！
2023英特尔On技术创新大会中国站即将上线！ 中国专家将深度讲解最新一代增强 AI 能力的计算平台，支持开放、多架构的软件方案和工具，塑造未来的技术和应用创新。大会有哪些干货分享值得期待？预告来袭，精彩先知！收藏这份大会“游览指南”，将大会旅程中的亮点一网打尽！英特尔面向智算时代开发者的年度盛大旅程12 月 19 日 09:00 正式发车！起始站：2场主题演讲，开启开发者盛会主题：芯生无限 赋能
openlab_4276841a
1年前
作者：英特尔边缘计算创新大使 颜国进 1. 前言英特尔发行版 OpenVINO™工具套件基于oneAPI 而开发，可以加快高性能计算机视觉和深度学习视觉应用开发速度工具套件，适用于从边缘到云的各种英特尔平台上，帮助用户更快地将更准确的真实世界结果部署到生产系统中。通过简化的开发工作流程， OpenVINO™可赋能开发者在现实世界中部署高性能应用程序和算法。 OpenVINO™ 2023.2于2
openlab_4276841a
1年前
作者: 英特尔边缘计算创新大使 杨雪锋 1. OpenVINO Notebooks简介OpenVINO Notebooks是Jupyter Notebook形式的OpenVINO范例程序大**，方便开发者快速学习并掌握OpenVINO推理程序，并通过Copy&Paste方式将范例中的关键程序应用到自己的AI软件中去。 GitHub: https://github.com/openvinotoo
openlab_4276841a
1年前
使用OpenVINO实现RT-DETR模型INT8量化推理加速
作者：英特尔边缘计算创新大使 颜国进 RT-DETR是在DETR模型基础上进行改进的，一种基于 DETR 架构的实时端到端检测器，它通过使用一系列新的技术和算法，实现了更高效的训练和推理，在前文我们发表了《基于 OpenVINO™ Python API 部署 RT-DETR 模型 | 开发者实战》（基于 OpenVINO™ Python API 部署 RT-DETR 模型 | 开发者实战）、《基于
openlab_4276841a
1年前
