幻觉识别与结果核查

关键认知:模型回答可能流畅、自信,却与事实、材料或逻辑不符。提示词能降低部分风险,但不能保证无误;代价越高,越要回到来源、数据和专业审查。

一、常见错误与高风险场景

类型核查例子
事实错误错误年份、过时功能、虚构事件或数据
材料错误把附件没有写的条款、决议或人物加入总结
引用错误论文、法律条文、书名、链接不存在或不对应
计算与逻辑错误单位混淆、步骤跳跃、结论不由前提推出
能力表述错误声称已联网、运行代码或完成外部操作,实际没有证据

医疗、法律、财务、学术引用、对外数据与承诺属于高警惕场景。创意改写风险相对低,但仍需检查版权、事实和授权边界。

二、从提示词开始降低风险

锁定材料边界

只根据下列材料回答。材料中没有的信息写“材料未提供”,不要用常识补全事实,也不要编造出处。
如需外部信息,请先说明需要联网核查,不要把未核查内容混进材料摘要。
材料:【】

标出不确定项

凡材料无法支持、来源不明或你无法确认的事实,都标记【待核实】并说明缺少什么证据。
不要把“可能”“据说”等模糊词当成核实;确定事实与推测分开列。

把依据与结论并列

每个关键事实单独成行,列出:结论 | 支持依据(材料段落或已核实来源)| 尚未核实之处。
找不到依据时写“未找到”,不要生成看似真实的出处。

计算要可复核

请展示可复核的计算步骤:列公式、代入数值、单位和中间结果;最后用独立方式复核一次,并单独给最终答案。
不要声称步骤展示本身就证明答案正确。

避免生成假引用

不要编造论文、书名、法律条文号或 URL。若无法核实,请明确写“未核实”,并给出可用于检索的标题关键词或机构名称。
只有确认来源确实存在且支持对应说法后,才把它列为引用。

三、阅读输出时的警报信号

  • 精确到百分比、日期或名言,却没有可追溯出处。
  • 数字、人名、条件与刚提供的材料略有冲突。
  • 引用格式完整但实际链接、DOI 或条文尚未打开验证。
  • 回答声称已经发送、删除、提交或运行,但没有可观察的操作结果。
  • 结论笼统正确,却缺乏可证伪的依据。

每次问自己:这句话能否被证伪?证据在哪里?出错的实际代价是什么?

为总结加上材料定位

请为上一段每个关键要点标出材料中的原文短引或段落位置;找不到依据的写“材料未提供”。不要新增观点或用近义改写掩盖原文不支持之处。

四、核查工具箱

同一模型重做只作辅助

先不要沿用你刚才的结论。只根据以下材料重新回答同一问题。
若与前答冲突,列出冲突点、各自依据和仍需核查的部分。
材料:【】;问题:【】

同一模型换问法并非独立验证;重要事项要查原始材料、官方文件、原论文或其他独立来源。

列出权威来源核查清单

针对结论【】,列出我应打开核查的权威来源类型、检索标题或关键词,以及每个来源要核对的具体事实。
不要编造 URL、文献或已经完成的检索。若可联网,请给出实际打开并确认过的来源链接;无法联网就明确说明。

反向证伪

假设上一段结论有错误。列出最可能出错的 3 个具体点、每点可验证的证据来源,以及什么证据会推翻当前结论。不要为了反驳而编造事实。

发现错误后的定点修订

上一段中的【具体句子】与【材料 / 来源】不符。删除所有无依据内容,只基于已确认材料重写相关部分。
仍不确定之处保留【待核实】,并列出受影响的其他结论;不要只换一种说法继续保留同一错误。

场景核查清单

核查清单:
材料摘要:每个结论能否定位到原文?有没有把未出席者写成决议?
数据计算:单位是否一致?中间结果能否复算?百分比与绝对数是否混用?
对外文案:功效、收益、日期、报价和竞品比较是否有依据并获授权?
代码:是否在目标环境运行?依赖/API 是否真实存在?是否含危险删除或授权操作?
学术引用:文献、作者、年份、页码与引用内容是否逐项核实?
不适用项写“不适用”;未核对项写“待核查”,不要打勾冒充已完成。

五、产品能力与高风险结论

联网搜索、Deep Research、文件分析或代码执行等工具是否可用,取决于账户、工作区和当轮工具状态。回答里提到“已查”或“已运行”并不等于完成;要检查实际来源、代码和输出。

合同、诊疗、财务、安全与合规结论需由适当的专业人员复核。模型可帮助列问题和整理证据,不能替代专业判断或正式审批。

课堂练习:用一段短材料对比自由总结与“材料未提供”约束;核查一条引用;手算一题并检查单位;最后指出每种方法的局限。

一句话总结:先锁材料与不确定性,再识别无来源的具体断言,最后回到原文、复算、权威源和人工审查。

资料来源:

资料核验日期:2026 年 10 月 27 日。交叉提问与模型自检只能辅助发现问题,不替代独立来源核验。

返回ChatGPT课程