知识库
大模型推理时的温度、top-p 与重复惩罚：三个采样参数如何改变输出风格
在使用大语言模型时，除了输入提示词，采样参数对输出风格有决定性影响。其中温度（temperature）、top p（核采样）和重复惩罚（repetition penalty）是最常调整的三个。它们各自控制不同的方面，理解其原理能帮你更精准地…
#大模型#采样参数#温度#top-p#重复惩罚
提示词里的角色设定真的有用吗？系统提示与用户提示的边界实验
大模型应用里，给提示词加一句“你是一位资深律师”或“你是一位耐心的老师”，效果到底有没有变化？系统提示（system prompt）和用户提示（user prompt）的角色设定，谁更管用？本文用可复现的实验思路，帮你搞清楚边界在哪里。 实…
#提示工程#系统提示#角色设定#大模型
让大模型稳定输出结构化数据：提示词约束与校验的实践思路
为什么大模型输出结构化数据不稳定？ 大语言模型本质是生成自然语言的概率模型，默认输出自由文本。当要求它输出 JSON、XML 等结构化格式时，常出现字段缺失、类型错误、多余解释、格式漂移等问题。要稳定获得结构化数据，需要从 提示词约束 和 …
#大模型#结构化输出#提示工程#JSON#数据校验