PM 与 AI 领域核心概念速查手册
共 8 个词条
引导模型在给出答案前逐步展示推理过程,显著提升数学、逻辑和多步骤问题的准确率。
在 Prompt 中提供少量输入-输出示例,让模型通过上下文学习理解任务格式和风格。
发送给 LLM 的输入文本,包含指令、上下文、示例等,是控制模型输出行为的主要手段。
攻击者通过构造恶意输入操控 LLM 忽略原始系统指令,是 AI 应用安全的核心威胁之一,尤其在 Agent 能访问外部内容时风险极高。
将外部知识库检索与 LLM 生成相结合,解决模型知识截止和幻觉问题,让回答有据可查。
结合推理(Thought)和行动(Action)的提示范式,让模型在每次工具调用前先显式推理,再观察结果并决定下一步,是构建可靠 Agent 的基础模式。
在对话开始前设置模型角色、行为约束和全局规则的特殊提示词,对整个会话持续生效。
强制 LLM 按 JSON Schema 等预定格式输出,确保响应可被程序化解析,是构建生产级 AI 应用的关键工程实践。