分类

Posted in

快速启动和运行大语言模型：提供简单的 API 创建和管理模型 | 开源日报 No.280_AI阅读总结 — 包阅AI

by baoyueai

包阅导读总结

1. 语言模型、开源、Python 包管理、录屏工具、RAG 框架

2. 文本介绍了一些开源项目，包括快速启动大语言模型的工具、RAG 引擎和框架、Python 包管理器、macOS 录屏工具等，每个项目都有其特点和优势。

3.

– 快速启动大语言模型工具 ollama

– 可快速启动并运行 Llama 3 等模型

– 开源，Stars: 72.2k ，License: MIT

– RAG 引擎 ragflow

– 基于深度文档理解

– 能从非结构化数据中提取知识，兼容多种数据源

– 开源，Stars: 9.0k ，License: Apache-2.0

– Python 包管理器 pdm

– 现代的，支持最新 PEP 标准

– 与 Pipenv、Poetry 相比的特点

– 开源，Stars: 7.2k ，License: MIT

– macOS 录屏工具 QuickRecorder

– 轻量化多功能

– 支持多种实用功能和新的 “Presenter Overlay”

– 开源，Stars: 3.2k ，License: AGPL-3.0

– RAG 框架 cognita

– 用于构建模块化开源应用程序

– 由 TrueFoundry 开发

– 开源，Stars: 2.6k ，License: Apache-2.0

思维导图：

文章地址：https://mp.weixin.qq.com/s/G_ssZ8NDDmiu7gc_J2eQOg

文章来源：mp.weixin.qq.com

作者：帅比柒

发布时间：2024/6/15 17:10

语言：中文

总字数：888字

预计阅读时间：4分钟

评分：81分

标签：大语言模型,API,模型管理,开源工具

以下为原文内容

本内容来源于用户推荐转载，旨在分享知识与观点，如有侵权请联系删除 联系邮箱 media@ilingban.com

picture

ollama/ollamahttps://github.com/ollama/ollama

Stars: 72.2k License: MIT

picture

ollama 是一个快速启动并运行 Llama 3、Mistral、Gemma 和其他大型语言模型的工具。

infiniflow/ragflowhttps://github.com/infiniflow/ragflow

Stars: 9.0k License: Apache-2.0

picture

ragflow 是一个基于深度文档理解的开源 RAG（检索增强生成）引擎。

  • 从复杂格式的非结构化数据中进行基于深度文档理解的知识提取。
  • 兼容各种异构数据源，包括 Word、幻灯片、Excel、txt、图像等等。
  • 自动化且轻松流畅地进行 RAG 工作流程，适用于个人和大型企业。

pdm-project/pdmhttps://github.com/pdm-project/pdm

Stars: 7.2k License: MIT

picture

pdm 是一个现代的 Python 包和依赖管理器，支持最新的 PEP 标准。PDM 旨在成为下一代 Python 包管理工具，主要特点包括：

与其他替代方案相比：

  • Pipenv：适用于开发非可安装应用程序（例如 Django 网站），不处理与打包代码相关的任何软件包。对库开发者来说仍需使用 setuptools。
  • Poetry：类似于 Pipenv，在构建 .whl 文件、上传到 PyPI 方面更加灵活，并且有漂亮的用户界面。但它并未遵循 pyproject.toml 文件中元数据表示方式标准（PEP 621）, 而是使用自定义 [tool.poetry] 表格。这部分原因是 Poetry 在 PEP 621 出台之前就已经发布了。

该项目可以通过安装脚本进行安装，并需要 Python 版本为 3.8 或更高版本。

lihaoyun6/QuickRecorderhttps://github.com/lihaoyun6/QuickRecorder

Stars: 3.2k License: AGPL-3.0

picture

QuickRecorder 是基于 ScreenCapture Kit 的轻量化多功能 macOS 录屏工具。QuickRecorder 主要功能、关键特性、核心优势包括：

  • 支持无需驱动的音频回路录制、鼠标高亮显示、屏幕放大镜等实用功能
  • 完全支持 macOS 14 中的新 “Presenter Overlay”，可以实时在录制中叠加摄像头（macOS 12/13 只能使用摄像头浮动窗口）
  • 能够以带 Alpha 视频格式记录 HEVC，输出文件中可以包含 Alpha 通道（目前只有 iMovie 和 FCPX 支持此功能）

truefoundry/cognitahttps://github.com/truefoundry/cognita

Stars: 2.6k License: Apache-2.0

picture

cognita 是用于构建模块化、开源应用程序的 RAG（检索增强生成）框架，由 TrueFoundry 开发。

  • 每个 RAG 组件都是模块化、API 驱动和易于扩展