知识库
大模型结构化输出实战:用 JSON Schema 约束让模型稳定返回可解析结果
为什么需要结构化输出 大模型默认输出自然语言,直接解析容易失败。例如让模型提取用户信息,它可能返回“姓名:张三,年龄:25”,也可能返回“张三今年25岁”。这种不确定性让下游程序难以处理。结构化输出(如 JSON)配合 JSON Schem…
大模型推理时的温度、top-p 与重复惩罚:三个采样参数如何改变输出风格
在使用大语言模型时,除了输入提示词,采样参数对输出风格有决定性影响。其中温度(temperature)、top p(核采样)和重复惩罚(repetition penalty)是最常调整的三个。它们各自控制不同的方面,理解其原理能帮你更精准地…
从零训练一个图像分类器:数据标注、增强与过拟合判断的完整链路
一、先明确目标与数据规模 训练图像分类器的第一步不是写模型,而是定义分类体系:每个类别要有清晰、互斥的判定标准。建议先做小规模验证——每类 100 300 张图,跑通全流程后再扩量。类别边界模糊(如"运动风"与"休闲风")会直接导致标注噪声…
微调、RAG 与提示工程怎么选:从数据量、更新频率与成本三个维度做决策
在大模型应用开发中,微调、RAG(检索增强生成)与提示工程是三种主流技术路径。面对具体任务,如何选择?本文从数据量、更新频率和成本三个维度提供决策框架。 一、理解三种技术 提示工程 :通过设计输入指令(如 few shot 示例、思维链)引…
提示词里的角色设定真的有用吗?系统提示与用户提示的边界实验
大模型应用里,给提示词加一句“你是一位资深律师”或“你是一位耐心的老师”,效果到底有没有变化?系统提示(system prompt)和用户提示(user prompt)的角色设定,谁更管用?本文用可复现的实验思路,帮你搞清楚边界在哪里。 实…
MiniMax H3 提示词写作完全指南:三段式结构、运镜体系与常见错误
MiniMax H3 提示词写作完全指南:三段式结构、运镜体系与常见错误 如果你在用 MiniMax H3 生成视频,大概已经发现: 同一个模型,提示词写得好坏,出来的片子差距极大 。 H3 的特点是「视频和音频一次生成」——它同时产出画面…
词向量到注意力:用一个小语料亲手推演 Transformer 的计算过程
Transformer 是现代大模型的基础,但只看公式容易一头雾水。本文用一个小语料,手算一遍从词向量到注意力的关键步骤,帮你真正理解内部计算。 1. 准备一个小语料 假设我们只有两个句子: "猫 追 老鼠" "狗 追 猫" 先构建词表:{…
向量数据库与传统检索的混合方案:RAG 场景下召回率与延迟的平衡
在 RAG(检索增强生成)场景中,检索质量直接影响生成答案的准确性。向量检索擅长语义匹配,传统关键词检索(如 BM25)擅长精确匹配,两者结合可以显著提升召回率,但也会增加延迟。如何平衡?以下是可落地的混合方案。 为什么需要混合检索 向量检…
编辑报“要替换的字符串找不到”,却改到了别处:缩进、唯一性与最小替换范围
让 AI 助手改一行代码,它报"要替换的字符串在文件里找不到"。你定睛一看,那行明明就在那儿,一个字不差。再试一次,它没报错,但改完发现——动的是另一个地方。 现象 三种表现,都遇到过: 1. 匹配失败 :报告"要替换的字符串在文件中找不到…
直接改文件被拒“请先读取”:AI 编辑器为什么强制先读后写
你脑子里清楚知道某个配置文件长什么样,于是直接让助手"把这个值改掉"。它却回你一句:文件尚未被读取,请先读取再写入。 现象 直接编辑或写入某个文件时,工具报错,提示类似: 动作被拒。注意这是 在写入那一刻被拦下的 ,前面所有分析、推理都做完…
派个子代理去执行同样的命令还是被拒:权限是继承的,不是绕过的
主会话因为权限跑不动某条命令,你转念一想:那派个"子代理"去干这活不就行了?换了执行者,也许就绕过去了。结果它原样回你一句"我无法执行这个命令",路白绕了。 现象 主会话被权限拦住后,改为派一个子代理去执行同一条命令。子代理 原样回复"我无…
定了时的自动化脚本全部空跑:无人值守下权限请求被系统直接拒绝
你写了个脚本,手动跑的时候一切正常。于是把它挂到定时任务里,第二天早上满怀期待地打开产出文件——空的,一个字都没有。 现象 定时任务自动触发后等于空跑:要执行的脚本根本没运行,产出文件一直是空的,只能回报一句"命令权限被拒绝"。如果同一天挂…
长会话跑到上限被 API 直接拒绝:AI 编程助手的上下文纪律
如果你把一个 AI 编程助手当"能自己动手的同事"用,很容易一开就是一下午:贴日志、读代码、跑命令、改文件,全都塞在同一个对话框里。然后某一刻,它突然不动了。 现象 接口直接返回 400,提示大致如下: 任务当场中断。麻烦的地方在于,这时候…
让大模型稳定输出结构化数据:提示词约束与校验的实践思路
为什么大模型输出结构化数据不稳定? 大语言模型本质是生成自然语言的概率模型,默认输出自由文本。当要求它输出 JSON、XML 等结构化格式时,常出现字段缺失、类型错误、多余解释、格式漂移等问题。要稳定获得结构化数据,需要从 提示词约束 和 …