相关文章
857 篇高质量内容
LLM 微调的学习动力学：幻觉、挤压与优化的艺术（万字长文，实战解读）
深入剖析LLM微调中的幻觉现象和优化难题，探索优化新策略。 核心内容： 1. LLM微调的重要性及其在垂域AI应用中的广泛应用 2. 微调过程中出现的幻觉现象和优化难题 3. 学习动力学理论框架的提出与应用，以及不同微调算法的表现分析
DeepSeek + Dify 企业级大模型私有化部署指南
掌握企业级AI平台部署的全流程指南，实现数据安全与成本效率的双重优化。 核心内容： 1. DeepSeek+Dify组合带来企业级AI部署的三大优势 2. 详细部署环境准备，包括硬件配置和软件环境设置 3. 核心组件部署步骤，含路径和端口定制技巧
自主构建MCP，轻松实现云端部署！
自主构建MCP服务，云端部署轻松实现，阿里云百炼工作流封装技巧全解析。 核心内容： 1. 编写代码封装MCP服务的详细步骤 2. 发布服务到npm平台的操作流程 3. 在阿里云百炼平台创建自定义MCP服务的方法 4. 智能体中引用自定义MCP服务的实现方式
大模型微调框架LLaMA-Factory
探索开源大模型微调的高效之路，LLaMA-Factory助你轻松实现。 核心内容： 1. LLaMA-Factory框架介绍和安装指南 2. 通过webui启动框架的简便方法 3. 模型下载与训练数据集准备技巧
Unsloth：提升 LLM 微调效率的革命性开源工具
Unsloth工具，显著提升LLM微调效率，减少资源消耗，保持高精度。 核心内容： 1. Unsloth工具如何实现LLM微调的效率和资源消耗双优化 2. 微调大型语言模型的基本概念及其应用场景 3. 微调相比检索增强生成（RAG）的优势及其对模型性能的影响
超越 DevOps？VibeOps 引领 AI 驱动的开发革命
VibeOps引领AI驱动的开发运维新纪元，释放开发者创造力，提升生产力。 核心内容： 1. VibeOps：基于Vibe Coding理念的直觉式运维方法论 2. 四大支柱：对话式基础设施定义、AI辅助事件响应等 3. 无需上下文切换，保持开发者心流状态，提升生产力
大模型想 “专精” 特定任务？这 3 种 Addition-Based 微调法别错过
掌握大模型微调的前沿技术，提升特定任务表现。 核心内容： 1. 大模型微调的必要性和基本原理 2. 传统微调方法的局限性分析 3. Addition-Based微调法的优势与实践
重参数化微调：揭秘LoRA家族让大模型训练成本暴降的方法
大模型微调成本过高？LoRA家族技术来破解难题，让模型训练更高效。 核心内容： 1. 大模型训练成本高昂，LoRA技术如何降低成本 2. LoRA原理和优势，以及如何实现模型的即插即用和灵活切换任务 3. AdaLoRA的升级点，如何让模型更智能地分配学习资源
使用 LLaMA-Factory 微调 llama3 模型
一款强大的大型语言模型微调工具，让模型优化变得轻而易举。 核心内容： 1. LLaMA-Factory模型介绍及特点 2. 环境配置和模型下载步骤 3. 使用LoRA适配器进行模型微调的实践
费曼讲解大模型参数微调——小白也能看懂
费曼技巧式解读，让大模型参数微调变得简单易懂。 核心内容： 1. 家庭学习场景，类比大模型参数微调 2. 大模型神经元计算细节，电报码编码解码过程 3. 学生如何向老师学习，小模型参数学习范式
超详细使用Ollama本地部署Deepseek
掌握Ollama本地部署Deepseek，轻松实现高效语言模型应用。 核心内容： 1. Ollama官网下载与安装步骤 2. 验证Ollama安装成功的方法 3. DeepSeek模型下载与配置参数选择指南
大模型微调：Prompt-Tuning
Prompt-Tuning，一种高效微调大模型的新方法，让模型以更少的资源实现更好的效果。 核心内容： 1. Prompt-Tuning的原理和核心思想 2. Prompt-Tuning相比传统微调的优势 3. Prompt-Tuning的代码实现和工作原理解析
vLLM部署QwQ-32B（GPU版）
深入浅出地探索vLLM部署与QwQ-32B模型应用。 核心内容： 1. 部署vLLM的系统环境要求及准备工作 2. QwQ-32B模型的下载、安装与运行过程 3. 模型运行测试与API接口调用示例
企业私有大模型DeepSeek落地部署该用什么? Ollama还是vLLM
选择企业私有大模型部署方案，Ollama还是vLLM？深入对比分析，助你做出明智选择。 核心内容： 1. Ollama与vLLM的核心定位与部署方式对比 2. 技术特点差异：简化部署、资源优化、高效内存管理等 3. 适用场景分析：轻量级应用、高并发服务、资源密集型任务
“算法备案与大模型备案：你们是否已完成双备案？”
掌握AI服务合规新要求，确保业务顺利进行。 核心内容： 1. AI产品备案现状概览与必要性 2. 不同AI服务备案流程与周期 3. 企业备案操作指南及注意事项
vLLM部署Deepseek（CPU版）踩坑记录（失败经验贴）
vLLM CPU版Deepseek部署血泪史，带你避开那些坑！ 核心内容： 1. 从ollama转向vLLM的本地化部署背景 2. Python、gcc版本不匹配等安装障碍 3. 运行时遇到的各种报错及解决尝试
一台3090就能跑Gemma 3 27B！谷歌发布Gemma 3全系QAT版模型
谷歌Gemma 3全系QAT版模型震撼发布，大幅提升AI模型性能和可访问性！ 核心内容： 1. Gemma 3 QAT版模型实现内存需求大幅降低，消费级GPU即可运行 2. QAT技术融入训练阶段，量化为更小更快版本时保持准确率 3. 各版本Gemma 3模型在不同VRAM下的内存占用量对比分析
MCP vs Function Calling，该如何选？
深入探索LLM集成策略，解锁高效智能系统构建之道。 核心内容： 1. 大型语言模型（LLMs）在企业自动化和决策制定中的革命性作用 2. 函数调用（Function-Calling）和模型上下文协议（MCP）的设计理念与实现方式 3. 函数调用在约束LLMs生成、满足企业业务需求中的应用案例
国内企业应用AI大模型赋能软件测试的落地实践案例
国内企业如何利用AI大模型提升软件测试效率和质量？本报告深入分析了国内企业应用AI大模型赋能软件测试的现状和实践案例。 核心内容： 1. AI大模型在软件测试领域的主要应用方向 2. 国内企业实践案例：中信银行和邮储银行的应用实践 3. 应用AI大模型赋能软件测试面临的挑战
低延迟小智AI服务端搭建-ASR篇（续）：CPU可跑
猴哥分享低延迟AI服务端ASR搭建，CPU推理方案详解。 核心内容： 1. sherpa-onnx开源项目介绍，跨平台语音处理工具包 2. ASR模型选择，流式推理paraformer模型 3. CPU推理方案，模型加载与实现