AI 会取代人类思考吗？我们为什么仍要亲手写作和编程

原文：Will AI Replace Human Thinking? The Case for Writing and Coding Manually

重新学习思考，警惕对 AI 的依赖。

每天关于 AI 的（吹捧的或无聊的）文章层出不穷。用它没问题，大家也都在用，但我们仍然需要打磨自己的手艺，并努力去思考。

就像 DHH（David Heinemeier Hansson，Ruby on Rails 框架创始人）所说：

精通某项技能比一直等着 AI 完成任务要有趣得多。

在我看来，AI 让我们不快乐的概率非常高。用，当然可以，但不能事事都用。我们可以用它来探索新知、梳理历史脉络，或者制作图表（比如用 Canva、Figma），但绝对不能用它来写作（或编程）。世界总需要有人贡献新的知识和见解，而 AI 无法自我训练。因此，文章、书籍和文字仍将被创作，当人人都依赖 AI，导致其发展停滞时，作家的价值反而会更加凸显。

从长远来看，这是一种损失——人们将停止思考和学习。时间会证明一切。我的浅见是，如果你在某个领域已是资深专家，你会比 AI 更懂。 Bsky

何时使用 AI 的指南

我从 ThePrimeagen 的一个视频中听到一个观点：这取决于你决策的影响有多长远。短期内，用 AI 自动补全代码没问题，但让它做架构设计这样重大的决策，绝对不行。

这张图的横轴是时间，纵轴是错误数量。它表明，我们让 AI 参与的决策越是影响深远（比如系统架构），它产生的错误就可能越多。

如果我们用它来快速补全代码，或者写一个定义清晰的算法函数，那么出错的概率就小。在初始阶段，你可能会提升 20% 的效率；但到了后期，你失去的会更多。

这就像现实生活中，我等待决策的时间越长，掌握的信息就越多，做出的决定就越好。这正是 Shape Up 工作法所倡导的，决策周期最长为 6 周，不制定更长远的路线图和积压任务。使用 AI 也是同理，因为它的所有输出都是基于概率预测的。

Forrest Brazeal 的另一张图也很有启发性：

同时，也要牢记什么对你的应用场景最重要，正如 Thomas Ptacek 在《我的那些 AI 怀疑论朋友都疯了》一文中所展示的：

毫无灵魂

没人想读毫无灵魂的文字，即使它写得还不错，你又能从中得到什么呢？我认为这是一个巨大的陷阱，人们只有在时间流逝后才会意识到。当然，AI 能提供帮助，每个人在“某些”任务上都需要它们，但不应是写作本身。

归根结底，大语言模型 (LLM) 和 AI 需要引导，它们只是概率的产物。另见 亲手写作。

分心

我认为我们将比以往任何时候都更容易分心。我们甚至没有两秒钟的思考时间，Grammarly、Copilot 或 Cursor 就会跳出建议。于是，我们不再独立思考，只是随波逐流，渐渐失去了主导权。

这让我想起最近写的一篇文章《寻找心流》。更多关于“不要事事依赖 AI，否则你会停止思考和学习”的讨论，请见 AI 的使用 和 写作之难。

别误会

别误会，我自己也每天都用 AI，但用得更审慎。我关掉了 Grammarly 和 Copilot（很久以前就关了），这样我才有空间去思考和学习。偶尔用一两次没问题，但如果处处都用，你不仅会失去学习新技能的机会，也会失去其中的乐趣。

关于“人机协作智能”（LLM Collaborative Intelligence, LCI）的讨论很有趣。当然，它会带来很多好处，但我不确定这些 AI 产生的“洞见”能否与人类历经艰辛后感受、感知或体验到的洞见相提并论。所以，是的，我对此没有太多期望，也不希望它来创造新的见解。因为那是我工作中真正有趣的部分 :)

锻炼一项技能

事情永远不是“全有”或“全无”，而是在于度的把握。学习的问题在于，如果你频繁使用 AI，我认为你其实学不到太多东西。写作时只是复制粘贴，编程时只是不停地按 Tab 键。学习的过程消失了。如果这种情况持续下去，我们的大脑就不再习惯于学习，更严重的是，不再习惯于思考。就像记忆一样，我们现在还能记住几个手机号码？很少了。但在早期用电话的时代，我能记住很多，因为我每天都在训练这个能力。

这完全是一个熟能生巧的问题。我为自己总结出——虽然不一定适用于每个人——我发现自己不再学习或思考了。坦白说，也失去了乐趣。这主要是在我熟悉的领域。

在其他领域，比如创作一张图片（就像我为这篇文章做的那张 😆），或者用 HTML/CSS 更新我网站的首页，这些事因为不常做，AI 帮我省了很多时间。但我得说，除了学会了如何给 Claude Code 写提示词，我并没学到任何新东西。这始终是一种权衡，不是吗？:)

其他观点

Paul Graham 谈写作

Paul Graham 在《会写的人和不会写的人》中说：

  • 结果将是一个分裂成“会写者”和“不会写者”的世界。仍然会有一部分人能够写作。

  • 是的，这很糟糕。原因我之前提到过：写作就是思考。

  • 事实上，有些思考只能通过写作来完成。

  • 如果你不写作而自认为在思考，那你只是“以为”自己在思考。

  • 所以，一个分裂成“会写者”和“不会写者”的世界比听起来更危险。它将是一个“会思考者”和“不会思考者”的世界。

Nathan Baugh

Nathan Baugh 在一篇关于AI 和代写的帖子中分享道：

一阶效应：

  • 世界将被垃圾内容和故事淹没。

  • 我们已经看到了这一点。看看这个平台上 AI 写的评论就知道了。

二阶效应：

  • 人们将停止学习那些基础技能——讲故事、写作、修辞——这些都是有效传达经验和思想所必需的。

  • 他们会过度依赖 AI。开始时是工具，然后变成拐杖，最后成为障碍。

三阶效应：

  • 那些投资于这些技能的人将获得巨大的回报。

  • 写作能磨砺你的思想。故事能为这些思想提供杠杆。

Ted Gioia

好消息是，AI 不会取代作家。Ted Gioia 在 2024 年 8 月 31 日的文章中提出了一些他认为 AI 写作无法企及人类的原因：

来源：Twitter/X。全文见《谷歌认为贝多芬长得像憨豆先生》。

Mitchell Hashimoto

在 AI 热潮兴起了两年半之后，我仍然坚信，如果你的公司在没有 AI 的情况下本就平平无奇/未能成功，那么做“任何事 + AI”也救不了你。对于少数看似成功的例子（如 Cursor），我认为他们的护城河比看起来要脆弱得多。你必须参与这场 AI 游戏，但我不认为它是一种可防御的核心能力。不过，它或许可以作为一种出色的“圈地”策略，为你赢得时间来充实核心业务。—— Mitchell Hashimoto on Twitter

Andrew Ng (吴恩达)

吴恩达在 Twitter/X 上说：

现在有些人劝别人不要学编程，理由是 AI 会让它自动化。这种建议将被视为有史以来最糟糕的职业建议之一。我不同意那位图灵奖和诺贝尔奖得主所写的：“编程这个职业更有可能灭绝……而不是变得无所不能。计算机会越来越多地自己编程。” 这种劝人别学编程的言论是有害的！

在 20 世纪 60 年代，当编程从打孔卡（程序员必须费力地在实体卡片上打孔来逐字符编写代码）转向带终端的键盘时，编程变得更容易了。这使得当时成为比以往任何时候都更好的学习编程的时机。然而，正是在这个时代，诺贝尔奖得主赫伯特·西蒙写下了第一段引用的那番话。今天那些不鼓励学习编程的论调，仍然在呼应他的评论。

随着编程变得越来越容易，应该有更多的人去编程，而不是更少！

在过去的几十年里，随着编程从汇编语言发展到像 C 这样的高级语言，从桌面到云端，从纯文本编辑器到集成开发环境 (IDE)，再到 AI 辅助编码（有时甚至几乎不看生成的代码，一些程序员最近称之为凭感觉编程 (Vibe Coding)），每一步都让编程变得更容易。

我之前写过，我看到精通技术的人正在协调 AI 工具，朝着成为 10 倍效能的专业人士迈进——即那些在其领域中产生相当于平均水平 10 倍影响力的个人。我越来越相信，对许多人来说，实现这一目标的最佳方式不仅仅是成为 AI 应用的消费者，而是学习足够的编程知识，以便有效地使用 AI 辅助编码工具。

我最常被问到的一个问题是，担心被 AI 取代工作的人应该怎么办。我的回答是：学习 AI 并掌控它，因为未来最重要的技能之一，将是能够准确地告诉计算机你想要什么，让它为你完成。编码（或让 AI 为你编码）是实现这一目标的绝佳方式。

在我制作《面向所有人的生成式 AI》课程，需要为背景图像生成 AI 艺术作品时，我与一位学过艺术史、懂得艺术语言的合作者一起工作。他用基于历史风格、调色板、艺术家灵感等术语的提示词来引导 Midjourney，从而得到他想要的结果。我不懂这种语言，我那点可怜的提示词尝试无法产出同样有效的效果。

同样，科学家、分析师、营销人员、招聘人员以及各行各业的专业人士，如果通过编程知识理解了软件的语言，就能更精确地告诉大语言模型 (LLM) 或支持 AI 的 IDE 他们想要什么，从而获得更好的结果。随着这些工具不断让编程变得更容易，现在是学习编程、学习软件语言、学习让计算机完全按你的意愿行事的最佳时机。

Harry Dry

伟大的想法与其说是关乎创造力，不如说是关乎信念。……那么，发生了什么？“酱料和其他玩意儿”变得极其廉价！……没有任何 AI 提示词能生成信念。—— Harry Dry

^64403f

更多内容见AI 能解决这个问题吗？。

Jason Fried

正如 Jason Fried 所说，AI 最初让人觉得神奇。过了一段时间，你看透了它，发现它不过是平庸之作：

求职信？当然要！

最难的不是创造东西。 最难的是维护东西。 如今，创造东西、倾吐想法变得如此容易，我是以最好的方式说这话的…… —— Jason Fried on LinkedIn

这是另一个很有价值的见解。维护不是你亲手写的代码是很困难的，而且也失去了乐趣。因此，对于一个成功的企业来说，拥有可持续性以及维护产品的意愿和精力将是至关重要的一部分，而不仅仅是“创造它”。

另外，谁来为生成的（凭感觉写出的）代码承担责任？

David Perell

David Perell 和我一样，认为 AI 的产出毫无灵魂：

当你把写作外包给 AI，你得到的是缺乏灵魂或个性的文字。你的怪癖和特质都消失了，而正是这些东西让你的写作无可替代。—— LinkedIn

Ezra Klein

Ezra Klein 在一个播客中分享了关于写作的深刻见解，我非常认同。他说，研究没有捷径。当你花七个小时钻研一篇文章或一本书时，它会改变你。这也会影响你的写作。任何摘要都无法给你带来这种深度的联结。

此外，你无法通过提示词来达到这种效果，因为没有哪个提示词知道你还不知道什么，AI 也不知道你本想读到什么，或者你会建立什么样的联系。恰恰相反，你实际上在浪费时间阅读，久而久之，我们以为自己读了很多东西，但实际上只读了摘要。完整节目见《反对使用 AI 写作的理由》。

AI 会取代 X 吗？

作家

求职信还重要吗？是的。这篇文章提醒我，如今，良好的写作能力对任何工作都至关重要。写作一直是一项宝贵的资产，而在今天这个时代更是如此；尽管人们认为他们不再需要这项技能，因为 AI 可以代劳。但这是一种我绝不会下的危险赌注。

更多内容见亲手写作。

数据工程师？

可能不会。

Mehdi Ouazza 做了一个很好的类比：

  • 100 年前，唱片取代了音乐家吗？没有，它改变了音乐家和整个行业。

  • 云计算抢走了所有 IT 工作吗？没有，它也改变了行业和我们的工作。

  • 这次也一样；它会改变我们的行业和工作，但我们不会消失。

更多内容见AI 会取代数据工程师吗？。

图像生成

初步生成，可以。但最终润色，不行。每当我尝试用 AI 创作图片时，最初总是感到惊艳，但这种感觉很快就会消退。

昨天，我更新了我的“第二大脑”图片，但今天又改了。我用 AI 创作了更多，不停地写提示词。最后，我根据自己的文案，手动做了一张。我认为它更有力量。你觉得呢？

ChatGPT

我自己做的

有些 AI 生成的图片我也喜欢，但它们总是缺少点什么，而且，看起来太“AI”了。我开始对 AI 图像生成产生和对 AI 写作（见“作家”部分）以及 AI 数据工程（见“AI 会取代数据工程师吗？”）一样的感觉：亲自动手更有成就感，最终也会更快乐。

更多内容见AI 生成图像。

如何识别 AI 写作

如何识别 AI 写作

如果我们知道 AI 是怎么写作的，我们是否应该停止使用破折号或 AI 常用的那些写作手法呢？

我不这么认为。我喜欢破折号，甚至为它设置了键盘快捷键。有时当我写否定句时，我会想“这会不会看起来像 AI 写的？”

但最终，“信念”是个好词。我不能在写作时总想着 AI 会怎么看，我必须写。所以，有话要说，并尽我所能去沟通，就是我能做的最好的事。^ebca60

历史日志

2024-10-12

AI 写作做不到的事，因为它一次只能思考一个词。

例如，在下面的例子中，作为一名作家，你知道你需要让所有句子都以相同的结构开头，但 AI 模型做不到这一点。

  • 从富足中写作是收集想法的艺术，这样你可以更好地思考并避免写作障碍。

  • 从对话中写作是利用对话来识别你最佳想法并加倍投入的艺术。

  • 在公共场合写作是向互联网传播你的想法的艺术，这样你就成为吸引他人、机会和意外之喜的灯塔。

更多内容见文案写作。

AI 垃圾内容——那些做得不太好的公司

AI 垃圾内容 (AI Slop) 指的是不顾质量地大量生成内容。这是“质量 vs. 数量”这个永恒讨论的延伸，但在今天变得尤为重要。

这里有一些在全面转向**“AI 优先”**后又开始退缩的公司：

  • Klarna 正在撤回 AI 客服：

    “在将 Klarna 描绘成一家 AI 优先公司多年后，这家金融科技公司的首席执行官改变了说法，告诉彭博社，公司在 AI 方案导致“质量下降”后，正在重新招聘人工客服。IBM 的一项调查显示，这是 AI 在商业应用中的普遍现象，只有四分之一的项目能带来其承诺的回报，能够大规模推广的就更少了。”

  • Duolingo 在使用 AI 后变得越来越差。

  • 下一个会是 Shopify 吗？在其宣布全面拥抱 AI 之后？

未来

  • 关于为什么基于“下一个词元预测”的大语言模型 (LLM) 不擅长理解世界，这里有一些很好的见解。Meta 的 AI 负责人 Yann LeCun 表示，这种方法对于写作来说勉强可行（但也不是那么好），但要理解物理学和世界模型，就困难得多：Meta 的 AI 老板说他受够了大语言模型…

See all posts