AI 运行时packages/ai/generation-context

generation-context 能力包

Token 预算的上下文窗口管理 — 系统 prompt、RAG、用户历史、scratchpad;窗口爆掉时决定淘汰策略。

打开文档

稳定性: 稳定
作用域: 全局
边界: packages/ai/generation-context
归属: @nebutra/ai

generation-context

packages/ai/generation-context

AI 运行时 · 工具注册表 · MCP 边界

就绪

能力图谱

ai/generation-context

generation-context

工具策略

流式 UI

输出

执行账本

1
输入
packages/ai/generation-context/request
2
规划
message reducer -> model turn
3
工具策略
tool schema · auth scope · rate limit
4
流式 UI
events -> UI state machine
5
输出
@nebutra/agents response envelope

p50 延迟

198 毫秒

事件/秒

379/秒

提供方

7

评测分

81

使用方式generation-context.ts

typescript

generation-context.ts

1import { generationContext } from "@nebutra/generation-context";
2
3const result = await generationContext.run({
4  tenantId: org.id,
5  // generation-context is part of the AI runtime — composable with other AI primitives.
6  input: payload,
7});