专题：大语言模型
共30篇相关文章
3.28北京Meetup，GPUStack、SGLang、MiniCPM核心成员，深度对话AI Infra改如何进行？
会议主题 本次 GPUStack、OpenBMB 和 SGLang 社区联合举办的线下 Meetup，我们将围绕大模型部署中的关键挑战展开分享，重点探讨异构 GPU 管理与推理效率优化等核心痛点，深入解析如何构建面向企业生产环境的统一模型服...
如何快速在LM Studio open-webui本地部署大语言模型？
目录一、前言二、环境准备三、安装设置四、下载模型并运行五、配置 open-webui写在结尾 一、前言 自 OpenAi 发布 ChatGPT 对话性大语言模型，AI 这两年发展迎来爆发，国内外也衍生了大量的语言模型开放给公众使用。为了可以...
如何深入探索并掌握LangChain的入门知识？
前言 未来已来。2022年11月30日，OpenAI 发布了 ChatGPT,这是 AI 时代重要的一次划时代的产品，到如今，AI 已经开始渗透到普通人生活中的点点滴滴，各种 AI 应用产品层出不穷，其中以 LLM 为基础的应用产品尤为广泛...
如何让AI快速对接MySQL数据库实现高效问答对话？
一、场景说明： 通过 AI 连接 MySQL 结构化数据库表，预期实现通过AI对话数据库表，快速了解数据情况，能够进行简单的汇总统计，快是实现问答。 二、资源准备： 需提前准备以下内容： AI大语言模型：阿里云百炼基础模型 qwen-max...
如何优化Chat to MySQL，将MCP Server服务调用为？
一、场景说明： 通过 1Panel+MaxKB 两个开源工具结合 MCP 服务实现 Chat to Mysql。 二、资源准备 MySQL：数据库以及数据库表（培训认证中心运营数据表） 1Panel：开源 Linux 运维...
MaxKB MCP智能问数方案如何操作及步骤详细说明？
DeepSeek-R1的发布掀起了AI智能变革的浪潮。在过去几个月里，MaxKB开源企业级AI助手已经帮助大量企业和组织快速落地了DeepSeek，让AI在不同的行业土壤中产生持续、可度量的业务价值。 MaxKB（github.com1P...
如何进行开源Qwen3本地化部署实操？
一、教学环境 1、1Panel：现代化、开源Linux服务器管理面板 2、Ollama：开源大语言模型管理平台 3、MaxKB：强大易用的企业级 AI 助手 二、实操步骤 步骤1、1Panel 安装： 安装说明参见在线文档：在线安装 - 1...
如何将AI教学中的实时语音知识库有效沉淀下来？
今天给大家分享一个教学的 AI 使用场景，主要用来解决课堂老师实时讲解的内容如何让学生快速了解学习。 一、教学场景说明： 课堂上老师上完课后，课堂实时讲解的内容，部分与教材或者课件有偏差（临场发挥），希望通过AI小助手将这部分知识沉淀总结下...
最炫酷的企业AI助手前端源码，哪里能找到？
最近越来越多的企业开始将 MaxKB 在他们企业当中的应用场景官宣了。有时候我们会疑问，这真的是 MaxKB 做的吗？ MaxKB 你怎么还能动的？ 案例一：医疗资源小助手开场白 效果展示： 源码： <html_ran...
生产级提示词案例，如何打造？
场景一：格式文本提取提示词 # 角色 Role - 你是一个高度精确的文本提取代理。 # 背景 Background - 你将接收到两段不同的文本： 1. 一份**按序号排列的列表**，详细说明了需要搜索的具体问题或信息点。 2. 一段描述...
如何告别手动码字，用AI智能生成文档下载，提升职场学习效率？
一、写在前面 本文重点介绍如何将AI智能生成文字直接转换为word文档，支持下载，最终提升大家学习和职场办公的效率。 二、实操环境 1、Pandoc-api服务： 下载地址：https:github.comliuchangfitclo...
破局AI问答专有名词检索难题，分词神器何时能强势登场？
有客户深度使用全文检索模式检索分段，反馈一些专有名词无法被检索到（例如把“小米手机”分成了“小米”和“手机”两个词，对检索结果造成较大干扰），而 MaxKB 的分词器采用流行的 jieba 库，确认了一个临时解决方案。 1、定义自定义字典...
如何通过AI赋能文档创作，实现智能生成和云端下载，解锁高效办公新姿势？
一、写在前面 本文重点介绍如何将AI智能生成文字直接转换为word文档，支持下载提升大家学习和职场办公的效率。 二、Pandoc-api 服务 Pandoc是一个功能强大的文档转换工具，支持多种文档格式之间的转换。它广泛应用于学术写作、出版...
如何实现AI应用对话批量自动化测试，附源码教程？
一、场景说明 MaxKB对话应用在发布之后，可以使用本文提供的Python自动化测试脚本，快速验证对话应用的响应结果，响应时间，引用分段，消耗tokens数量等关键指标。请查看MaxKB-API.zip压缩包，详细了解Python自动化测试...
如何基于GPT构建私有知识库问答聊天机器人？
前文链接： [基于GPT搭建私有知识库聊天机器人（一）实现原理](https:www.cnblogs.commysharep17517448.html) [基于GPT搭建私有知识库聊天机器人（二）环境安装](https:www...