Transformers.js开源浏览器端AI推理库，零延迟运行Hugging Face模型

Transformers.js：在浏览器中直接运行最先进的机器学习模型

你是否曾希望在Web应用中集成强大的AI功能，却苦于需要搭建复杂的服务器端推理环境？Transformers.js 的出现，旨在彻底解决这个问题。它是一个基于JavaScript的库，将Hugging Face的Transformers生态系统完整地带到了浏览器端，让开发者能够在客户端直接运行预训练模型，实现零延迟的AI推理体验。

截至收录：
Transformers.js项目stars数：15224
Transformers.js项目forks数：1066

Transformers.js项目目录截图

Transformers.js项目核心亮点

• 🌐 无服务器端推理：模型直接在浏览器中运行，无需依赖后端服务器，保护用户隐私，降低延迟和服务器成本。
• 🔄 与Python库API高度一致：设计上功能等同于Hugging Face的Python transformers库，开发者可以轻松地将现有Python代码迁移到JavaScript，学习成本极低。
• ⚡ 多模态任务全覆盖：支持自然语言处理（文本分类、翻译、问答等）、计算机视觉（图像分类、目标检测等）、音频处理（语音识别、文本转语音）以及多模态任务，功能极其全面。
• 🔧 性能与兼容性优化：底层使用ONNX Runtime，支持在CPU（通过WASM）和GPU（通过WebGPU）上运行模型，并提供模型量化选项，以在资源受限的浏览器环境中实现最佳性能。

Transformers.js快速开始

只需几步，你就能在网页中体验AI的强大功能：

1. 安装：
   通过NPM安装：
   bash
npm i @huggingface/transformers
   或者，直接在HTML中使用CDN（无需构建工具）：
   html
<script type="module">
import { pipeline } from https://cdn.jsdelivr.net/npm/@huggingface/transformers ;
</script>
2. 运行你的第一个情感分析：
   “`javascript
   import { pipeline } from @huggingface/transformers ;

   // 创建情感分析管道
   const pipe = await pipeline( sentiment-analysis );

   // 对文本进行推理
   const result = await pipe( I love transformers! );
   console.log(result);
   // 输出: [{ label : POSITIVE , score : 0.999817686}]
   “`

3. 尝试更多功能：
   访问项目的示例应用页面，从语音识别、代码补全到图像搜索，有丰富的模板供你探索和复用。

Transformers.js应用场景

• 客户端AI应用：构建完全在浏览器中运行的智能应用，如实时翻译工具、文档摘要插件、图像背景移除工具等，所有数据处理均在本地，保障数据安全。
• 交互式演示与教育：为机器学习模型创建零部署门槛的交互式演示，学生和研究者可以直接在网页中体验不同模型的推理效果，无需配置任何环境。
• 边缘计算与低延迟场景：在需要极低延迟或网络不稳定的场景下（如移动端、IoT设备），在客户端进行实时推理，提供更流畅的用户体验。
• 浏览器扩展与桌面应用：开发Chrome/Firefox扩展或使用Electron构建桌面应用，轻松集成各类AI功能。

用户案例：该项目由Hugging Face官方维护，其示例涵盖了从简单的浏览器对象检测到复杂的多语言翻译网站、Next.js应用等多种形态，展示了其强大的实用性和广泛的适用性。

Transformers.js链接

huggingface / transformers.js项目地址：https://github.com/huggingface/transformers.js

本文地址：https://www.tgoos.com/39855