[校对&发布][tech] GitHub Copilot Alternatives: Best Open Source LLMs for Coding (#135)

Signed-off-by: Qian Qian "Cubik"‎ <cubik65536@cubik65536.top>

Author: Qubik65536

published/2024-12/20240722-github-copilot-alternatives-best-open-source-llms-for-coding.md

@@ -0,0 +1,185 @@
+---
+title: GitHub Copilot平替：几个最强的开源编程大模型
+date: 2024-12-30 13:23:52
+author:
+  - fosscope-translation-team
+  - RobertCheng-956
+  - Cubik65536
+banner: https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/best-opensource-ai-model-for-coding.webp
+cover: https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/best-opensource-ai-model-for-coding.webp
+categories:
+  - 翻译
+  - 技术
+tags: 
+  - Copilot
+  - LLM
+  - 开源AI
+  - 编程大模型
+authorInfo: |
+  via: https://itsfoss.com/coding-llms-copilot-alternatives
+
+  作者：[Community](https://itsfoss.com/author/community/)
+  选题：[excniesNIED](https://github.com/excniesNIED)
+  译者：[RobertCheng-956](https://github.com/RobertCheng-956)
+  校对：[Cubik65536](https://github.com/Cubik65536)
+
+  本文由 [FOSScope翻译组](https://github.com/FOSScope/TranslateProject) 原创编译，[开源观察](https://fosscope.com/) 荣誉推出
+applied: true # 是否已被申领翻译
+translated: true # 是否已翻译完成
+proofread: true # 是否已校对完成
+published: true # 是否已发布
+---
+
+想部署一个用于编程的 AI 模型，或者只是在寻找一个开源的 GitHub Copilot 替代品？往下看看吧！
+
+<!-- more -->
+
+AI 无处不在。大语言模型（LLM）就是最重要的 AI 模型类型之一。
+
+当然，这里指的是 [开源大语言模型](https://itsfoss.com/open-source-llms/)（而不是私有大语言模型）。这样的大语言模型不仅能帮你生成文本、活跃思维、画图创造，还能够帮你编程，提高编写代码的效率。
+
+为此，大语言模型需要首先经过微调，然后用编程语言训练，这样才能为你编程提供帮助。
+
+本篇文章中，我将介绍一些好用的开源编程大语言模型，其中也包含了开源的 GitHub Copilot 平替编程助手。
+
+{% note color:cyan 📋 你可以在 Ollama 上找到所有的开源大语言模型，并且可以轻松地将它们安装在本地使用。 %}
+
+## 1. WizardCoder
+
+![wizardcoder](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/wizardcoder-huggingface-1.jpg)
+
+[WizardCoder](https://github.com/nlpxucan/WizardLM) 是一个开源编程大语言模型，在 Llama 2 的基础上进行了优化，并且经过了相应的微调，可以很好地处理复杂指令。
+
+WizardCoder 使用 Evol-Instruct 算法，确保模型以更完整、更丰富的指令进行微调，使其能够胜任编程任务。得益于这一算法，该模型声称其性能超过了 Gemini Pro、ChatGPT 3.5 等大模型。因此，WizardCoder 大模型非常适合作为 AI 编程助手。
+
+撰稿（译注：It's FOSS 原文）时的最新版本 **WizardCoder-33B-V1.1** 是在 deepseek-coder-33b-base 上训练的。您也可以使用它的变体，比如 WizardCoder-Python-34B-V1.0。
+
+如果感兴趣，可前往 [Ollama](https://itsfoss.com/ollama/) 模型库一探究竟。
+
+<center>{% button "WizardCoder" https://huggingface.co/WizardLMTeam/WizardCoder-15B-V1.0 %}</center>
+
+## 2. Phind CodeLlama
+
+![phind codellama](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/phind-code-model-1.jpg)
+
+Phind 是 [最好用的AI搜索引擎](https://itsfoss.com/ai-search-engines/) 之一，其编程大模型也不遑多让。Phind CodeLlama 是一个基于 CodeLlama 34B 的代码生成模型，经过微调以适应各种指令。
+
+该模型的训练集不仅包含高质量的编程问题和解决方案，还使用了 DeepSpeed ZeRO 3 和 Flash Attention 2 在32个 A100-80GB GPU 上进行了3个小时的训练。
+
+为了保证准确性，Phind 利用 OpenAI 的去污染技术对数据集进行处理，提取每个评估用例中的部分文本，并验证训练样本中是否存在相应的匹配项。
+
+该模型存在两个版本：v1 和 v2。v1 建立在 CodeLlama 34B 和 CodeLlama-Python 34B 之上。v2 版本只是 v1 的迭代版本，在额外的15亿个高质量编程相关数据词元上进行了训练。
+
+<center>{% button "Phind CodeLlama" https://huggingface.co/Phind/Phind-CodeLlama-34B-v2 %}</center>
+
+## 3. Mistral7B 和 Mixtral-8x7B
+
+![mistral AI](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/mistral-ai-1.jpg)
+
+Mistral AI 开发的 Mistral7B 和 Mixtral 8x7B 都宣称自己是对应训练数据量中最好的模型。Mistral 7B 拥有73亿个参数，在基准测试中胜过 Llama 2 13B。
+
+我确实发现该模型在 Ubuntu 系统中的 Ollama 上运行速度更快。
+
+部分技术细节：Mixtral 8x7B 规模更大，是一个具有467亿个参数的稀疏专家混合 (SMoE) 模型。尽管参数量大，但每个词元只需要129亿个参数。
+
+这两种模型都可以根据您的任务需要进行微调。但是，也适用于编程。
+
+<center>{% button "Phind CodeLlama" https://huggingface.co/Phind/Phind-CodeLlama-34B-v2 %}</center>
+
+## 4. CodeBooga
+
+![codebooga](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/codebooga-1.jpg)
+
+CodeBooga 是一款出色的开源编程大模型，主要原因是该模型是 Phind-Codellama 34B v2 和WizardCoder-Python-34B-V1.0 的合并结果，几乎可以说是 Python 和 JavaScript 最佳编程模型之一。
+
+该模型总共拥有334亿个参数，在评估其用途时可能会优于合并的模型。
+
+CodeBooga 可能并不那么流行，但也包含在 Ollama 库中，可以随时尝试。
+
+<center>{% button "CodeBooga" https://huggingface.co/oobabooga/CodeBooga-34B-v0.1 %}</center>
+
+## 5. Code Llama
+
+![codellama](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/codellama-1.jpg)
+
+由 Meta AI 开发的 [Code Llama](https://github.com/facebookresearch/codellama) 是 Llama 2 的一个特别版本。该模型是在专门的代码数据集上训练的，因此它可以生成代码，且理解提示词中关于代码的自然语言。
+
+Code Llama 有四种参数大小，分别是70亿、130亿、340亿和700亿个参数。
+
+所有不同的模型都服务于不同的目的，并且需要的配置也不同。70亿模型可以在单个GPU上运行。相比之下，340亿和700亿模型可以提供更好的结果，但需要更好的配置。
+
+总的来说，如果您的配置不太充足，那么70亿和130亿参数级别的模型是一个不错的选择。
+
+<center>{% button "Code Llama" https://github.com/facebookresearch/codellama %}</center>
+
+## 6. CodeGeeX
+
+![codegeex](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/codegeex-1.jpg)
+
+CodeGeeX 是最好的 GitHub Copilot 平替之一，也是同类大模型中数一数二的存在。它是一个代码生成大模型，拥有超过130亿个参数，在超过8500亿个词元上训练。
+
+CodeGeeX 具备一些特殊功能，例如跨语言代码翻译，允许您将代码翻译成不同的编程语言。它还免费给 Visual Studio Code 和其他 IDE（集成开发环境）提供可定制的编程助手。可用于所有类型的 IDE 这一点使得它成为许多人的完美 Copilot 替代品。
+
+Ollama 上有了 CodeGeeX 这样的 AI 编程助手后，无需再依赖 Google 搜索查询，只需依靠本地大模型的帮助即可。当然，您可以以此来替代 GitHub Copilot。
+
+<center>{% button "CodeGeeX" https://github.com/THUDM/CodeGeeX %}</center>
+
+## 7. Tabby
+
+![tabby AI assistant](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/tabby-AI.jpg)
+
+在社区积极开发下，Tabby 是 GitHub Copilot 开源平替中最具特色的一个。它可以在众多 IDE 中作为扩展使用，例如Visual Code。
+
+这是开源自托管的微软 Copilot AI 替代品中最令人印象深刻的之一。
+
+Tabby 可以从注释和上下文代码中创建代码片段。并且与其他一些 Copilot 替代品不同，它在您的基础设施上运行。Tabby 用 Rust 编写而成，旨在提高性能。在安装前，还可以通过 [在线网站](https://demo.tabbyml.com/) 试用。
+
+自定义 Tabby 非常简单直接，可以从 StarCoder、CodeLlama、DeepseekCode 等多个开源大模型中选择。您还可以提供存储库模型的访问权限，以便 Tabby 有更多上下文。
+
+<center>{% button "Tabby" https://tabby.tabbyml.com/ %}</center>
+
+## 8. StarCoder
+
+![starcoder](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/starcoder-1.jpg)
+
+StarCoder 是一款专注于代码的大模型，训练内容包含80多种编程语言、Git commit、GitHub issue 和 Jupyter notebook，训练参数超过150亿，拥有超过1万亿个词元。
+
+StarCoder 模型的可输入文本比其他任何开源大模型都长，上下文长度超过8000个词元。虽然可能不太出名，但它是一个不错的 AI 编程助手。
+
+还有一个名为 Starcoder2 的版本，包含的数据集是 Starcoder 的4倍，具备三种参数级别，分别是30亿、70亿和150亿，在3.3到4.3万亿个词元上训练。
+
+<center>{% button "StarCoder" https://huggingface.co/bigcode/starcoder %}</center>
+
+## 9. Deepseek Coder
+
+![deepseek coder](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/deepseek-coder-1.jpg)
+
+Deepseek Coder 系列提供了从10亿到330亿的模型。从零开始在超过2万亿个词元上训练，其是一个高性能的编程大模型。与 GPT 4 等专有大模型相比，其性能也十分出色。
+
+由于该模型的原始团队位于中国，该模型同时使用了中文和英文进行训练。
+
+Deepseek Coder 的13亿参数版本任务完成速度十分迅速，而330亿版本可以执行最复杂的任务，窗口大小为16K。您可以将它用作最轻量级的 Copilot 替代品之一。
+
+<center>{% button "Deepseek Coder" https://github.com/deepseek-ai/DeepSeek-Coder %}</center>
+
+## 10. DolphinMixtral
+
+![dolphinmixtral](https://static.fosscope.com/articles_img/2024/12/coding-llms-copilot-alternatives/dolphin-mixtral-1.jpg)
+
+Dolphin 模型在 Mixtral 8x7B 基础上，额外添加了 Synthia、OpenHermes、PureDove、New Dolphin-Coder 和 MagiCoder 的数据集，使其比 Mixtral 更有效率。好吧，这确实是一个有趣的组合。
+
+需要注意的是，这个模型是完全未经审查的。
+
+DolphineMixtral 只是 Mixtral 的一个普通微调版本。您可以根据您的用途调整它。
+
+<center>{% button "DolphinMixtral" https://huggingface.co/cognitivecomputations/dolphin-2.5-mixtral-8x7b %}</center>
+
+即使上文提到了众多AI编程助手，但根据具体的场景，您也可以使用其他任何开源 AI 聊天机器人。在以下的网址中，我尝试选出最好的几个聊天机器人，但仍有无数选择待您探索：
+
+{% link https://itsfoss.com/open-source-llms/ 14 Top Open Source LLMs For Research and Commercial Use icon:https://itsfoss.com/content/images/2024/05/open-source-llms.png %}
+
+## 总结
+
+以上提到了很多开源编程大模型，其中一些完全可以作为 Copilot 的开源平替。所有这些大模型都非常强大，可以帮助您解决几乎所有的编程问题。
+
+几乎每个大模型都提供不同的参数版本，以满足各种使用场景。赶快选择一个试试吧！