Skip to content
全部能力
AI 运行时packages/ai/local-embedding

local-embedding 能力包

基于 ONNX / WebGPU 的端侧 embedding;短文本、隐私敏感、provider 限流时省去往返。

打开文档
稳定性
稳定
作用域
全局
边界
packages/ai/local-embedding

local-embedding

packages/ai/local-embedding

AI 运行时 · 工具注册表 · MCP 边界

就绪

能力图谱

ai/local-embedding
local-embedding
工具策略
流式 UI
输出

执行账本

  1. 1
    输入
    packages/ai/local-embedding/request
  2. 2
    规划
    message reducer -> model turn
  3. 3
    工具策略
    tool schema · auth scope · rate limit
  4. 4
    流式 UI
    events -> UI state machine
  5. 5
    输出
    @nebutra/agents response envelope
p50 延迟
93 毫秒
事件/秒
686/秒
提供方
2
评测分
88
使用方式local-embedding.ts
typescript
local-embedding.ts
1import { localEmbedding } from "@nebutra/local-embedding";
2
3const result = await localEmbedding.run({
4  tenantId: org.id,
5  // local-embedding is part of the AI runtime — composable with other AI primitives.
6  input: payload,
7});