Sourcegraph 的 AI 编程助手 Cody 现已支持 Anthropic Claude 3 大型语言模型（LLMs），以及 OpenAI GPT-4 和 Azure OpenAI。
根据专注于代码搜索和智能的公司 Sourcegraph 表示，“所有 Claude 3 模型在代码生成方面表现更佳。” Claude 3 模型的另一个特点是它们拥有更大的 token 上下文窗口，即输入到 LLM 的最大尺寸。Anthropic 表示 Claude 3 模型“最初提供 200K 的上下文窗口”，但底层能力支持“超过 100 万个 token”的输入。
这使得 Cody 的最大 token 输入“大约为 7K token”看起来有所限制。Sourcegraph 表示，Cody 的限制是因为更大的代码上下文可能会损害响应质量，但公司相信 Claude 3 能够成功处理大型上下文，并表示“我们将在未来几周内大幅扩展 Cody 的上下文窗口”。
OpenAI 的 GPT-4 的最大上下文窗口为 128K token。
该公司声称，在早期试验中，“主要使用 GPT-4 的 Cody Pro 用户，在发布后的一个月内有超过 55% 的人转向了新的 Claude 3 模型。” Cody 的免费计划用户，该计划限于每月 500 次自动完成和 20 条消息和命令，现在默认使用 Claude 3 Sonnet。Sonnet 位于三个 Claude 3 LLMs 的中间，Opus 是高级模型，而 Haiku 是最便宜和最基本的模型。
选择一个与 Cody VS Code 插件一起使用的 LLM —— 现在包括 Anthropic Claude 3 模型。Cody 支持 VS Code、Neovim 和 JetBrains 家族的 IDE，包括 IntelliJ IDEA 和 Android Studio —— 尽管只有 VS Code 扩展被指定为稳定版。该 AI 助手具有包括编码聊天、记录和解释代码、查找代码异味（看起来有缺陷或次优的代码）、生成单元测试等功能。还有一个代码补全特性，可以自动完成单行或整个函数。支持的编程语言包括所有最常用的，尽管更小众的语言可能有较低质量的响应。
代码被发送到 LLM 进行分析，尽管常见问题解答中指出：“我们的第三方语言模型（LLM）提供商不会在你特定的代码库上进行训练。”
GitHub 的 Copilot 是最著名的人工智能编程助手，但现在还有许多其他选择，包括谷歌的 Gemini Code Assist、AWS Code Whisperer、Codeium、JetBrains AI Assistant、Tabnine 等。Cody 有两个显著特点。其一是它的核心部分在 GitHub 上以 Apache 2 许可证开源–不过在 2023 年 6 月，Sourcegraph 将其大部分代码（不包括 Cody 的社区版）重新授权给了企业许可证，而不是 Apache 许可证，并表示 "我们的授权原则仍然是向公司收费，同时将面向个人开发者的工具开源"，但这让人怀疑该公司对开源的承诺。
另一个关键特性是Cody使用的LLM是可插拔的，企业版本允许客户自带许可证，这对于不确定哪个LLM最高效的开发人员来说，是一个很有吸引力的功能。
来源：https://devclass.com/