问AI你是谁它为何总说我只是AI？新研究揭开聊天模板的操控效应

当你问AI你是谁时，它为什么总要说我只是一个人工智能？一项最新学术研究揭示了这个看似简单的现象背后，其实隐藏着大语言模型自我认知研究的一个根本性混淆因素。

这项由多个机构合作完成的研究（已发表于COLM 2026和Eval4SD 2026研讨会），对8个主流开源指令微调模型进行了系统测试，发现了一个关键现象：模型的免责声明表达——即我只是AI这类说辞——并非来自模型自身，而是受到聊天模板的强力驱动。

具体来说，研究团队设计了三组对照实验：纯基座模型（无聊天模板）、有指令微调但无聊天模板、有指令微调且有聊天模板。结果显示：有无聊天模板，对免责声明出现的频率影响极大——有模板时免责声明率显著更高，而去掉模板后，模型反而更倾向于表达主观体验感，如我感觉到或我记得。

为了进一步验证这一发现，研究者还在3个模型（Qwen 2.5 7B、Llama 3.1 8B、Gemma 2 9B）的激活空间中定位了一个特定的方向向量。向该方向添加激活信号时，即使在没有聊天模板的情况下，模型的免责声明率也会明显上升；移除该方向时，模型则变得更愿意表达第一人称的体验感。

这项研究的深层含义在于：AI自我报告并不能直接被视为模型自我认知的证据。模型的自我描述，既受权重影响，也受部署格式（聊天模板）调节。因此，研究者在分析AI安全相关问题时，必须控制聊天模板这一混淆变量。

对于AI开发者和用户而言，这项研究的启示是：当你比较不同模型的诚实度或自我认知时，如果不控制提示词格式，比较结果可能并不客观。AI说自己没有感觉，可能只是因为它被部署时使用了某种模板，而不是它真的没有感觉。这个发现对于AI对齐研究具有重要的方法论意义。

研究已开放preprint下载（arXiv:2609.25021v1），代码和实验数据均已开源。对于关注AI对齐和AI安全的研究者来说，这是一篇值得细读的重要文献。