工作原理
自动补全是一个复合 AI 系统,它结合使用了检索方法和响应处理技术。该系统大致可以分为三个部分。
时序
为了快速显示建议,同时避免发送过多请求,我们采取了以下措施:
- 防抖:如果您快速输入,我们不会在每次击键时都发送请求。相反,我们会等到您完成输入。
- 缓存:如果您的光标位于我们已经生成过补全的位置,则会复用该补全。例如,如果您回退,我们将能够立即显示您之前看到的建议。
上下文
正如上下文选择页面上所解释的,Continue 使用多种检索方法从您的代码库中查找相关的代码片段并包含在提示中。
过滤
语言模型并不完美,但可以通过调整其输出来使其更接近完美。在显示建议之前,我们对响应进行广泛的后处理,包括:
- 过滤掉特殊标记
- 在重新生成代码时提前停止
- 修正缩进
如果响应质量差,我们有时也会完全过滤掉它们。这通常是由于极端重复造成的。
您可以在自动补全深度解析中了解更多关于其工作原理的信息。