为什么AI不能取代开发者：编程中AI的真实局限性

AI写不出比程序员更好的代码

随着AI技术的不断发展，它在开发者中变得越来越受欢迎。然而，尽管像GitHub Copilot和ChatGPT这样的AI驱动的编码工具提供了便捷和高效，每位开发者都应记住一个重要的事实：AI写不出比你更好的代码。

在本文中，我们将讨论为什么AI无法替代开发者，为什么它仍然是一大宝贵的辅助工具，以及我们如何利用AI来增强我们的编码工作流程。我们将根据最新的研究成果，包括苹果公司的GSM-Symbolic: 数学推理在大规模语言模型中的局限性，深入分析AI在执行复杂编码任务时的技术局限。

等等

编码中的人工智能局限性：为什么它无法取代开发人员？

AI已经在软件开发的自动化方面取得了显著进展。无论是生成样板代码、帮助编写文档，还是提供常见错误的解决方案，AI都能够帮助开发者节省时间和精力。要知道，AI还远远做不到完美，也无法完成开发者能做的一切。

AI的主要问题之一是它无法解决复杂的推理问题。AI工具可以轻松处理简单的任务，但在处理需要理解项目的特定情境的更复杂问题时，人类开发者在这方面依然远胜于AI。

我曾与各种AI驱动的代码助手合作过，比如GitHub Copilot、Gemini Code Assist、Codeium等。虽然这些工具有助于许多任务，但在很多情况下，AI并没有达到预期的效果。例如，当开发人员让AI修复代码问题时，问题可能会变得更棘手。调试AI生成的代码比调试由熟悉项目细节的人编写的代码困难得多。

当人工智能犯错时，结果可能非常严重。人工智能很难像人一样从错误中吸取教训，常常忽略了代码库中重要背景或细微细节，无法全面考虑。AI在从错误中学习方面也远远不如人类，因为它经常无法考虑到更广泛的背景或细微细节。

此外，更重要的是，AI 工具在理解和推理方面仍然存在严重限制。虽然它们可以根据训练数据来解决问题，但在处理复杂任务或提出创新想法方面仍显不足。这是许多开发者往往忽略的，特别是当他们期望 AI 能像资深开发者或创意伙伴那样工作时。

或
三个星号（***）

关于GSM-Symbolic的论文：强调AI推理中的局限性

在一篇题为《GSM-Symbolic：理解大型语言模型中的数学推理局限性》的论文中，苹果公司的研究团队揭示了AI推理能力的不足。他们表明，虽然AI模型能够处理模式并根据训练数据给出答案，但在真正的推理上仍面临挑战。AI并不能真正理解问题的背景——它只是根据之前见过的模式做出预测。

尽管在大型语言模型（LLMs）方面取得了进步，但它们可能永远无法像人类一样进行真正的推理。例如，在完成简单的数学任务时，LLMs 可以非常准确。然而，当问题稍作改动（例如改变名称、数字或添加无关细节）时，模型的准确率会大幅下降。

这尤其适用于讨论编码任务时。AI可以例如帮助完成生成样板代码或提供已知问题的解决方案等简单任务，但在面对复杂、多方面的任务时，这些任务需要理解、创新和对上下文的洞察时，AI就显得力不从心——这些正是真正开发者每天都会面临的挑战。

GSM-Symbolic论文的摘要

该论文指出，大型语言模型（LLM）依赖于模式识别而非真正的推理。虽然AI已经取得了显著的进步，但要达到人类开发者在推理和问题解决能力上的水平，还有很长的路要走。

为什么复杂推理是一个核心挑战

对于需要复杂推理的任务——比如调试复杂代码或设计新功能等任务，因为AI无法像人类那样进行推理，使其成为一个不可靠的合作伙伴。它无法理解在特定项目背景下某些解决方案为什么比其他方案更有效。

编码任务的挑战：复杂性、语境和正确性

AI擅长处理结构化数据的可预测问题，但在需要创造力或复杂逻辑的任务上则表现不足。论文指出，当前的大型语言模型更适合用于查询信息和总结文档，而不是处理需要创造力和语境的复杂编码挑战。

……

如何在编程任务中巧妙利用AI

AI仍然可以成为开发人员极其有用的工具，但必须正确使用，以避免沮丧和错误。这里有一些建议，帮助您更好地利用AI：

1. 将AI视为助手，而非替代品

AI是工作中的辅助工具，但它无法替代你在开发过程中展现出的专业知识、创意和解决问题的能力。始终把它当作一个需要指导的初级开发者，给它明确的指示并纠正它的错误。

1. 专注于小而具体的任务

AI 最有用的是处理小而具体的任务。不要让它从零开始构建整个应用程序——将任务拆分成可管理的小块，并寻求帮助完成代码的各个小块。

1. 清晰地提示AI

AI的表现如何，完全取决于你给它的提示。如果你没有提出正确的问题或提供足够的背景信息，结果可能会不准确或与你的需求无关。所以在你提出请求时，一定要清晰和具体。

1. 使用AI处理重复性任务

AI非常适合处理重复且耗时的任务，比如编写重复代码或查找简单错误。把时间和精力留给需要人类创造力的复杂和创造性工作。

1. 知道何时该放手让AI

如果AI无法解决问题，不要一直尝试让它做得更好。知道何时自己接手或向其他开发者求助会更好。

…

使用AI进行开发时的常见误区及避免方法

AI是一个强大的工具，但很容易过度依赖它。这里列举了一些开发人员在使用AI时常见的错误以及如何避免这些错误的方法：

1. 过于依赖AI来解决实际问题

一些经验不足的开发者会依赖AI来“搞定”问题，而没有真正弄明白问题。这样做非常危险，这不仅不鼓励批判性思维，还不会提高解决问题的能力。解决方案：把AI当成学习的工具，但要自己去理解和解决这些问题。

1. 期望AI编写完美的代码，这有些不切实际

AI还远未达到完美，它可能存在错误，给出次优的方案，或者生成维护困难的代码。解决方案：始终仔细检查和测试AI生成的代码。这只是个开始，而不是最终答案。

1. 没有提供足够的上下文信息

AI需要明确的指令和充分的上下文才能给出准确的结果。解决方案：在请求时尽量具体明确。如果AI不明白你的问题，它也就无法给出有用的解决方案。

1. 像对待高级开发人员一样对待AI

AI工具有时看起来无所不能，但它们仍然无法处理复杂的编程任务或提供创新解决方案。解决方法：并指导它完成整个过程。

目前来看，AI 还是写不出比开发者更好的代码

AI 是一个强大的助手，但它无法替代开发人员的创造力、解决问题的能力和推理能力。虽然AI可以帮助完成像代码生成和修复代码中的错误这样的简单任务，但在理解复杂问题、处理上下文和做出创造性决策方面，它还存在不足。开发人员应利用AI来增强他们的工作，而不是取代掉他们的技能。AI应被视为一种工具——一种帮助开发人员更高效地编写更好代码的工具，而不是能够像人一样思考、推理或创新的事物。优秀的软件开发的关键仍然不变：成长、学习和创造力，这些都是AI需要长期努力才能达到的领域。这些方面是AI还有很长的路要走的地方。

喜欢这篇文章吗？🚀试试我的业余项目Svelte Mini Apps！

发现一些为日常使用而打造的开源工具吧。