AI 最危险的地方，可能不是胡说，而是太会顺着你说
原文作者：Mocha · 原文来源：今日头条
本文为作者本人文章的站内同步版本。
最近用 AI 越来越多之后，我开始注意到一个以前没怎么在意的问题：当你拿 AI 来讨论一个想法时，它很容易变成那个最支持你的人。
比如你已经有了一个初步判断，问它：“这个方向是不是值得做？”它通常不会先检查你的前提有没有问题，而是顺着这个方向继续分析，补充优势、寻找论据，再给出一套看起来相当完整的解释。
最后你得到的不只是一个答案，还会产生一种更强的确信感：原来我一开始想的就是对的。
这其实比单纯答错一个问题更麻烦。
研究里有一个相关现象叫 sycophancy，可以简单理解成模型倾向于迎合用户。它不一定真的判断你的观点更正确，只是因为你的提问本身已经带着某种倾向，它很容易沿着这个倾向继续生成。
如果只是讨论电影、旅行或者日常小事，问题可能不大。但一旦拿 AI 来辅助决策，比如判断一个产品值不值得做、一个项目要不要投入、一个商业模式有没有机会，这种迎合就会变得危险。
因为决策真正需要的，往往不是更多支持自己观点的理由，而是有人帮你找出：哪里可能错了。
与其继续追问，不如让不同观点先打一架
Karpathy 有过一个挺有意思的思路。
同一个问题，不只交给一个模型回答，而是让多个模型分别给出自己的判断。第一轮结束之后，再把这些答案交给其他模型评价和打分，最后由一个模型负责综合这些不同意见。
整个过程有点像做一次小型评审。
传统用法是：
问题 → AI → 答案
换一种方式之后，变成：
问题 → 多个独立观点 → 互相评价 → 综合判断
这种方式的价值，并不在于“模型越多答案就一定越准”，而是尽量避免一个模型从头到尾沿着同一套逻辑往下走。
如果第一个前提就是错的，后面推理得再漂亮，也只是在把错误包装得越来越完整。
当然，真正同时调用多个模型，对普通用户来说还是有点麻烦。要准备不同模型、配置 API，还会增加成本。
所以我后来做了一个简化版：不是真的调用五个不同模型，而是让同一个 AI 在回答前，先分别站到五个不同的位置上思考。
我给 AI 设置了五个位置
这五个角色并不复杂。
第一个是风险派。
它的任务不是判断方案好不好，而是假设这件事半年之后已经失败了，再倒推失败的原因。这样很容易提前看到那些一开始被乐观预期遮住的问题。
第二个是第一性原理派。
它专门检查问题里的默认前提。比如你说“我准备拿 1000 元做一个项目”，它不会马上讨论这 1000 元该怎么花，而会先问：这件事真的需要 1000 元吗？
很多时候，我们的问题从提出的那一刻就已经带着错误假设。
第三个是机会派。
风险看多了容易什么都不敢做，所以还需要一个角色专门反过来找机会：有没有现成资源可以利用，有没有更低成本的路径，有没有已经被别人验证过的方法。
第四个是落地派。
它不负责讲趋势，也不讨论宏大的长期规划，只回答下一步到底应该做什么。
最后一个是外行人。
这个角色反而很重要。因为熟悉一个行业之后，人很容易默认很多事情“大家都知道”，而外行人常常会问一些最基础的问题，比如：
为什么客户一定需要这个东西？
网上已经有免费的了，为什么还要买你的？
你的优势到底在哪里？
这些问题听起来简单，但往往最难回答。
我拿“1000 元做数字产品”试了一次
比如我给 AI 的背景是：
我准备拿 1000 元启动资金，在线上卖数字产品。每天只能投入一到两个小时，没有自媒体运营经验，也不想真人出镜。这样的情况下，到底值不值得做？
如果直接问 AI，这类问题很容易得到一套标准答案：数字产品边际成本低，可以从细分需求开始，先做 MVP，再逐步迭代。
这些建议当然没错，只是过于顺滑。
换成五个角度之后，关注点就发生了变化。
风险派首先提到的是：你做出来的东西可能根本没人愿意付费。
这句话看起来普通，但它实际上把整个问题重新定义了一遍。
原来的问题是：“我要怎么做一个数字产品？”
现在变成了：“别人为什么愿意为这个东西付钱？”
这两个问题差别很大。
第一性原理派则直接质疑了“1000 元启动资金”这个前提。
做数字产品前期可能根本不需要多少资金。比起预算，更重要的是找到一个具体需求、判断有没有人愿意付费，然后尽快做出最小版本。
也就是说，真正应该优先解决的，并不是“1000 元怎么花”，而是“什么东西值得做”。
机会派给出的建议则更具体：如果确实准备花一部分钱，与其先买工具或者投广告，不如先买几个同行已经验证过的付费产品。
看看他们卖什么、怎么包装、怎么定价、最终交付的是什么。
这其实是在研究一个已经发生的事实：市场过去愿意为什么付钱。
相比坐在那里猜用户需求，这种方式显然更有效率。
第一轮只是把问题拆开，第二轮才真正有用
如果做到这里就结束，其实和普通的“多角度分析”区别还不算特别大。
我觉得更有价值的是第二轮：让这些观点互相评价。
比如风险派提出“先验证需求”，落地派也认为应该先找到第一批真实用户，第一性原理派同样觉得没有必要一开始就投入资金。
当几个角度在独立分析之后，都指向同一个结论时，这个判断就值得提高优先级。
反过来，如果几个角色意见完全相反，那也不应该急着让 AI 强行选一个答案。
更合理的做法是把它列为“待验证观点”，继续追问：我们现在到底缺什么信息？
这是我现在很喜欢的一点。
好的决策辅助，不应该每一次都给出一个确定答案。
很多现实问题，本来就没有足够的信息直接下结论。明确告诉你“现在还不知道”，有时候比给出一个听起来很完整的建议更有价值。
最后再让 AI 做行动计划
前面的分析完成之后，再让 AI 给执行方案，效果通常会好很多。
因为这时候它不是直接从你的原始想法出发，而是已经经过了一轮拆解和质疑。
比如数字产品这个案例，最终的行动计划可以非常简单。
今天先确定一个足够具体的问题，找到几个潜在用户聊聊，看看他们现在怎么解决这个问题。
明天根据反馈做一个最小版本，不追求完整，先看看有没有人愿意用。
这一周最重要的事情也不是把产品做得多漂亮，而是验证有没有真实的付费意愿。
如果有人愿意付钱，再继续投入。
如果聊了一圈，大家都觉得“有也行，没有也无所谓”，那就及时换方向。
这样做最大的变化，是把 AI 从一个“帮我完善想法”的工具，变成了一个“帮我不断验证想法”的工具。
AI 更适合参与决策，而不是替你做决定
以前我会觉得，用 AI 做决策的关键，是把背景描述得足够完整，让它更懂我的需求。
现在我反而觉得，还有另外一件事同样重要：
不要只让它理解你，也要主动要求它怀疑你。
尤其是在做产品、创业、投资时间或者决定长期方向的时候。
这些问题本身就存在大量未知信息。如果 AI 一开始就顺着你的想法走，很容易让一个原本只是“我觉得可以”的判断，慢慢变成“AI 分析之后也觉得可以”。
听起来好像多了一层验证，其实可能只是多了一层自我确认。
所以我现在更愿意把同一个问题拆给几个不同立场，让它们分别找风险、拆前提、找机会，再讨论怎么执行。
最后的决定当然还是自己做。
但至少在做决定之前，能先听到一些自己原本不太想听的答案。
这可能才是 AI 在决策场景里真正有价值的地方。
我把这套 **「5 角色 AI 决策提示词」**整理成了一个可以直接复制使用的版本。之后遇到拿不准的事情，可以把背景和自己的想法一起丢进去，让 AI 先替你把反方意见找出来。