搜索模型列表

rb.models() 搜索可用模型,支持关键词和模态筛选。

import { RouterBrain } from '@router-brain/sdk';

const rb = new RouterBrain('sk-your-api-key');

// 查看全部模型
const all = await rb.models();
console.log(all.data.length, '个模型可用');

// 关键词搜索
const models = await rb.models({ q: 'gpt-4' });
for (const m of models.data) {
  console.log(m.id, m.pricing.prompt, '/', m.pricing.completion);
}

// 按模态筛选 + 分页
const result = await rb.models({
  outputModalities: ['image'],
  inputModalities: ['text'],
  limit: 5,
  sort: 'newest',
});
console.log(result.has_more ? '还有更多' : '最后一页');

查询参数

参数类型说明
qstring按模型名称或描述搜索
inputModalitiesstring[]输入模态筛选(如 ['text', 'image']
outputModalitiesstring[]输出模态筛选
limitnumber每页条数
offsetnumber跳过条数
sort'newest' | 'name'排序方式

查看模型详情

rb.modelEndpoint(code) 查询某个模型的价格和可用路由。

const detail = await rb.modelEndpoint('gpt-4o');

console.log(detail.name);           // 模型名称
console.log(detail.pricing.prompt); // 输入价格

// 查看各路由状态
for (const ep of detail.endpoints) {
  console.log(ep.provider_name);     // 供应商
  console.log(ep.latency_30m);       // 近 30 分钟平均延迟(ms)
  console.log(ep.uptime_5m);         // 近 5 分钟可用率
}

Rerank 文档重排

rb.rerank() 对文档按与查询的相关性排序,常用于 RAG 和搜索场景。

const result = await rb.rerank({
  model: 'rerank-model-name',
  query: '量子计算的应用场景',
  documents: [
    '量子计算在密码学领域有重要应用',
    '经典计算机使用二进制位(0或1)进行计算',
    '量子比特利用叠加态可以同时表示0和1',
    'Shor算法可以在量子计算机上高效分解大整数',
  ],
  top_n: 2,
});

for (const item of result.results) {
  console.log(`#${item.index}  分数: ${item.relevance_score}`);
}

// 同时返回原始文档内容
const result2 = await rb.rerank({
  model: 'rerank-model-name',
  query: 'RAG 检索增强生成',
  documents: docs,
  return_documents: true,
});

请求参数

参数类型必需说明
modelstring重排模型 ID
querystring查询文本
documents(string | { text: string })[]待排序文档
top_nnumber | null只返回前 N 条
return_documentsboolean结果中附带原文
max_tokens_per_docnumber | null每篇文档最大 token 数
instructionsstring排序指引说明

相关

模型列表(HTTP) · TypeScript 类型