[RFC] 094 - 支持无 Tools Calling 能力模型联网 #6810
arvinxx
started this conversation in
RFC | 特性开发
Replies: 1 comment
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
-
背景
接整个联网搜索 RFC #6277 的最后一部分，针对无 FC 的模型提供联网功能。主要解决 R1 类模型联网的需求：
这个做完以后就可以让 R1 这样的模型也能联网了。
设计思路
这部分的思路可能是整个大 RFC 中最简单的。就是强制加一个程序化联网功能，在每一次搜索前做一个联网判断。可以用别的模型来做意图识别，也可以指定强制必须联网。
框架部分在之前已经实现了，需要做的部分一个是相应的功能逻辑实现。
另外一块是需要评估下用支持输出结构化 json 的请求方式，还是约束成使用 function calling 的方式。目前看可能后者链路会更加通用
进展
Beta Was this translation helpful? Give feedback.
All reactions