如何在编辑器里用 Continue 和 Ollama 搭建全开源 AI 编码助手
Continue 联合创始人 Ty Dunn 在 Ollama 博客发文,介绍如何在 Visual Studio Code 和 JetBrains 中用 Continue 搭配 Ollama 与开源 LLM 搭建本地编码助手。
Continue 联合创始人 Ty Dunn 在 Ollama 博客发文,介绍如何在 Visual Studio Code 和 JetBrains 中用 Continue 搭配 Ollama 与开源 LLM 搭建本地编码助手。
Google 在 Google IO 2024 发布开源框架 Firebase Genkit,支持通过 Ollama 在本地运行其开源 Gemma 模型,用于构建、部署和监控生产级 AI 应用。
Ollama 现已支持 embedding 模型,可生成向量嵌入并构建 RAG 应用,提供 mxbai-embed-large(334M)、nomic-embed-text(137M)、all-minilm(23M)三款模型,并集成 LangChain 与 LlamaIndex。
Ollama 宣布内置兼容 OpenAI Chat Completions API,可在本地用同一套 OpenAI 格式调用模型,只需把 hostname 改为 http://localhost:11434。
Ollama 发布 Python 与 JavaScript 库初始版本,让新老应用用几行代码即可接入 Ollama,并共享 Ollama REST API 的功能与体验。
CrewAI 是一个基于 LangChain 构建的库,专门用于构建和编排 AI Agent 团队,可在 Replit 上原生云端运行。它由 Agents、Tasks、Tools、Crews 四个模块组成,兼容 Ollama 本地开源模型,并可用 LangSmith 记录和调试 Agent 运行。Replit 上已提供行程规划、落地页生成、个股分析等模板,可 fork 后自行定制测试。
Meta AI 发布开源语言模型 Llama 2,训练数据达 2 万亿 token,支持 4096 token 上下文,许可证比 v1 更宽松并允许商用。
推荐理由:汇总 Llama 2 发布后一天内出现的部署与试用入口,方便开发者快速了解可用的模型版本和工具。