专题:大语言模型
共30篇相关文章

3.28北京Meetup,GPUStack、SGLang、MiniCPM核心成员,深度对话AI Infra改如何进行?
会议主题 本次 GPUStack、OpenBMB 和 SGLang 社区联合举办的线下 Meetup,我们将围绕大模型部署中的关键挑战展开分享,重点探讨异构 GPU 管理与推理效率优化等核心痛点,深入解析如何构建面向企业生产环境的统一模型服...

如何快速在LM Studio open-webui本地部署大语言模型?
目录一、前言二、环境准备三、安装设置四、下载模型并运行五、配置 open-webui写在结尾 一、前言 自 OpenAi 发布 ChatGPT 对话性大语言模型,AI 这两年发展迎来爆发,国内外也衍生了大量的语言模型开放给公众使用。为了可以...

如何深入探索并掌握LangChain的入门知识?
前言 未来已来。2022年11月30日,OpenAI 发布了 ChatGPT,这是 AI 时代重要的一次划时代的产品,到如今,AI 已经开始渗透到普通人生活中的点点滴滴,各种 AI 应用产品层出不穷,其中以 LLM 为基础的应用产品尤为广泛...

如何让AI快速对接MySQL数据库实现高效问答对话?
一、场景说明: 通过 AI 连接 MySQL 结构化数据库表,预期实现通过AI对话数据库表,快速了解数据情况,能够进行简单的汇总统计,快是实现问答。 二、资源准备: 需提前准备以下内容: AI大语言模型:阿里云百炼基础模型 qwen-max...

如何优化Chat to MySQL,将MCP Server服务调用为?
一、场景说明: 通过 1Panel+MaxKB 两个开源工具结合 MCP 服务实现 Chat to Mysql。 二、资源准备 MySQL:数据库以及数据库表(培训认证中心运营数据表) 1Panel:开源 Linux 运维...

MaxKB MCP智能问数方案如何操作及步骤详细说明?
DeepSeek-R1的发布掀起了AI智能变革的浪潮。在过去几个月里,MaxKB开源企业级AI助手已经帮助大量企业和组织快速落地了DeepSeek,让AI在不同的行业土壤中产生持续、可度量的业务价值。 MaxKB(github.com1P...

如何进行开源Qwen3本地化部署实操?
一、教学环境 1、1Panel:现代化、开源Linux服务器管理面板 2、Ollama:开源大语言模型管理平台 3、MaxKB:强大易用的企业级 AI 助手 二、实操步骤 步骤1、1Panel 安装: 安装说明参见在线文档:在线安装 - 1...

如何将AI教学中的实时语音知识库有效沉淀下来?
今天给大家分享一个教学的 AI 使用场景,主要用来解决课堂老师实时讲解的内容如何让学生快速了解学习。 一、教学场景说明: 课堂上老师上完课后,课堂实时讲解的内容,部分与教材或者课件有偏差(临场发挥),希望通过AI小助手将这部分知识沉淀总结下...

最炫酷的企业AI助手前端源码,哪里能找到?
最近越来越多的企业开始将 MaxKB 在他们企业当中的应用场景官宣了。有时候我们会疑问,这真的是 MaxKB 做的吗? MaxKB 你怎么还能动的? 案例一:医疗资源小助手开场白 效果展示: 源码: <html_ran...

生产级提示词案例,如何打造?
场景一:格式文本提取提示词 # 角色 Role - 你是一个高度精确的文本提取代理。 # 背景 Background - 你将接收到两段不同的文本: 1. 一份**按序号排列的列表**,详细说明了需要搜索的具体问题或信息点。 2. 一段描述...

如何告别手动码字,用AI智能生成文档下载,提升职场学习效率?
一、写在前面 本文重点介绍如何将AI智能生成文字直接转换为word文档,支持下载,最终提升大家学习和职场办公的效率。 二、实操环境 1、Pandoc-api服务: 下载地址:https:github.comliuchangfitclo...

破局AI问答专有名词检索难题,分词神器何时能强势登场?
有客户深度使用全文检索模式检索分段,反馈一些专有名词无法被检索到(例如把“小米手机”分成了“小米”和“手机”两个词,对检索结果造成较大干扰),而 MaxKB 的分词器采用流行的 jieba 库,确认了一个临时解决方案。 1、定义自定义字典...

如何通过AI赋能文档创作,实现智能生成和云端下载,解锁高效办公新姿势?
一、写在前面 本文重点介绍如何将AI智能生成文字直接转换为word文档,支持下载提升大家学习和职场办公的效率。 二、Pandoc-api 服务 Pandoc是一个功能强大的文档转换工具,支持多种文档格式之间的转换。它广泛应用于学术写作、出版...

如何实现AI应用对话批量自动化测试,附源码教程?
一、场景说明 MaxKB对话应用在发布之后,可以使用本文提供的Python自动化测试脚本,快速验证对话应用的响应结果,响应时间,引用分段,消耗tokens数量等关键指标。请查看MaxKB-API.zip压缩包,详细了解Python自动化测试...

如何基于GPT构建私有知识库问答聊天机器人?
前文链接: [基于GPT搭建私有知识库聊天机器人(一)实现原理](https:www.cnblogs.commysharep17517448.html) [基于GPT搭建私有知识库聊天机器人(二)环境安装](https:www...
