OpenVINO™ JavaScript API详解与范例丨开发者实战
作者:腾讯科技前端开发 涂小丽 从OpenVINO™ 2024.0开始,官方除了提供Python/C/C++ API外,还新增了JavaScript API。通过OpenVINO™ JavaScript API,开发者可以非常方便的将AI能力嵌入到网页形式的应用中去。 本文将介绍常用的OpenVINO™ JavaScript API,并给出基于yolov8s-cls模型的推理范例程序。请读者先下载

打造AI 驱动的医疗助理:利用 OpenVINO™ 实现就诊新体验
作者 | Anisha Udayakumar 英特尔AI软件布道师 武卓 英特尔AI软件布道师介绍我们都曾坐在医生的候诊室里,时间一分一秒的过去,焦虑在一点一滴的增加。对于患者来说,这种等待可能会特别紧张,尤其是那些患有严重或慢性疾病的患者。与此同时,医生们也面临着自己的挑战:紧迫的日程安排和在有限时间内提供全面诊断的压力。而这里就是人工智能可以产生重大影响的地方。想象一下,一

作者 | Anisha Udayakumar 英特尔AI软件布道师 武卓 英特尔AI软件布道师在前一篇博客文章中,我们介绍了启动和运行 AI 医疗助手的基础知识之后,是时候探索如何为不同行业定制AI助手并使用我们这个边缘AI套件的基础代码集成各种模型了。1. 为不同行业定制助手医疗保健应用:加强患者互动并简化问诊流程。其它行业应用:零售领域: 为消费者提供更详细的产品介绍和推荐

用OpenVINO™ 生成式AI的C++ API部署Llama3.1模型丨开发者实战
作者:东莞职业技术学院 虞晓琼 博士 《五行代码实现Llama3.1在英特尔® 酷睿™ Ultra处理器上的部署》介绍了使用optimum-intel工具包,基于Transformers库的编程风格,实现大语言模型(LLMs)的部署。 《用OpenVINO™ 生成式AI API在酷睿™ Ultra处理器上部署Llama3.1模型》介绍了使用openvino-genai工具包,仅用两个OpenVI

英特尔物联网创新大使 黄明明项目背景 之前在很久之前看到这样一个设备(口袋AI设备 rabbit R1)(https://www.rabbit.tech/),可以在很小的便携设备上进行大模型交互,这种带来非常新鲜体验的感觉特别好,所以简单分析了一下,首先在本地推理有点不太可能,原因计算不足,如果计算足功耗和温升也顶不住,所以大致上为本地调用云端大语言模型,然后本地进行结果处理。这个时候有了简单的分
