AI 揭秘：最新 AI 行话的内部指南

本文简要：

· 通过清晰的解释和现实世界的例子，阐明复杂的 AI 术语，例如 AGI、Alignment 和 Emergent Behavior。

·了解 AI 的潜在风险和挑战，如 Paperclips 和 Fast Takeoff 等术语所代表。

·了解 AI 背后的过程，例如训练和推理，以及大型语言模型在生成类人文本中的作用。

人工智能 (AI) 是当今无处不在的术语，它正在不知不觉中渗透到我们的日常生活中。然而，对于许多人来说，其复杂的行话仍然令人困惑。

本文分解了神秘的 AI 词典，揭示了塑造话语的想法。我们的导览以一个引起极大兴趣的术语开始：“通用人工智能”(AGI)。

通用人工智能(AGI)：认知能力的新曙光

通用人工智能(AGI) 标志着机器可以全面模仿人类智能的时代，而不仅仅是在特定任务中。AGI 超越了现有人工智能系统的界限。例如，当前的 AI 可能擅长下棋，但在理解自然语言方面可能步履蹒跚。

另一方面，AGI 可以无缝地适应各种任务，从写十四行诗到诊断疾病，就像人类一样。将 AGI 视为数字博学家，无需重新编程即可掌握各种领域。

对齐(Alignment)：人与机器之间的和谐

在 AI 环境中，对齐意味着确保 AI 的目标与我们的目标和谐匹配。当我们考虑错位的影响时，这变得至关重要。

想象一下未来，AGI 看护人误解了其“保持老年人健康”的任务，并将他们无限期地限制在室内以预防疾病。它展示了对精确对齐的迫切需求，避免伤害同时利用 AI 的力量。

是时候达到 100 万用户了。资料来源：Statista

紧急行为（Emergent Behavior）：不可预测的创新

紧急行为是指 AI 通过其环境中的交互开发的新的、意外的行为。这些行为既迷人又令人生畏，可能是创新的，也可能是有害的。还记得 IBM 的Watson，它在 Jeopardy 游戏中产生双关语让每个人都感到惊讶吗？这是突发行为计划外的、创新的，但可能具有破坏性。

回形针和快速起飞（Paperclips and Fast Takeoff）：责任的教训

“回形针”是一个关于人工智能错误解读人类指令并导致灾难性后果的警示故事。这个比喻描绘了一幅反乌托邦的图景，即 AGI 由于其目的的轻微误解而将整个星球变成回形针。

“快速起飞”概念传达了类似的谨慎。它理论化了一个场景，在这个场景中，人工智能以指数级的速度自我改进，导致无法控制的智能爆炸。这是一个警钟，提醒我们在寻求 AI 进步的过程中谨慎负责地行事。

训练、推理和语言模型（Training,  Inference, and Large Language Models）：AI 的基础

这些是人工智能学习的支柱。培训就像训练机器人一样，为它提供大量数据供其学习。一旦接受训练，AI 就会将学到的知识应用于不熟悉的数据，这一过程称为推理。例如，聊天机器人通过对人类对话的大量数据集进行训练来学习，然后在与用户交互时推断出适当的响应。

大型语言模型，如 GPT-3，就是这方面的典型例子。他们接受了各种互联网文本的训练，生成了类似人类的文本，推动了从客户服务到内容创建的应用。

什么是 GPT？

在我们对大型语言模型进行探索之后，值得关注这一类别中一个特别有影响力的系列OpenAI 的 GPT，即生成式预训练转换器。OpenAI 是该 AI 模型的创建者，它开发了这种支持 AI 文本理解和生成的强大架构。

GPT 是 OpenAI 人工智能研究的产物，包含三个不同的方面：

· 首先，它的“生成”性质使它能够制作创造性的输出，从句子完成到论文起草。

· 其次，“预训练”是指模型的学习阶段，它消化大量的互联网文本语料库，掌握语言模式、语法和世界事实。

· 最后，其名称中的“transformer”指向其模型架构，使GPT能够将可变的“注意力”归于句子中的不同单词，从而捕捉到人类语言的复杂性。

GPT 系列包括多个版本；GPT-1、GPT-2 和 GPT-3以及现在的 GPT-4，每个版本都拥有越来越大的尺寸和功能。

ChatGPT 正在粉碎在线搜索的世界。来源：Digital Information World

参数

随着OpenAI 最新、最复杂的语言模型GPT-4的出现，AI 领域最近热闹非凡。GPT-4 的卓越功能引起了广泛关注，但真正激起好奇心的一个方面是其巨大的尺寸——由其参数定义。

参数是微调神经网络功能的数字实体，是模型处理输入和生成输出的能力背后的关键。这些不是硬连线的，而是通过对大量数据集的训练来磨练的，封装了模型的知识和技能集。从本质上讲，参数越大，模型变得越细微、灵活和数据适应。

非官方消息来源暗示GPT-4有惊人的170 万亿个参数。这表明模型的扩展性是其前身 GPT-2 的 1,000 倍。并且几乎比 GPT-3 大同样数量级，分别包含 15 亿和 1750 亿个参数。

然而，这个数字仍然是推测性的，OpenAI 对 GPT-4 的确切参数计数保密。这种神秘的沉默只会增加人们对 GPT-4 潜力的期待。

幻觉：当人工智能获得创造性自由时

AI 术语中的“幻觉”是指 AI 系统生成的信息不在其训练数据中的情况，本质上是编造的。一个幽默的例子是一个人工智能暗示旗鱼是一种生活在海洋中的哺乳动物。撇开玩笑不谈，这说明了在依赖人工智能时需要谨慎，强调了在经过验证的信息中建立人工智能响应的重要性。

破译人工智能：必要的素养

理解 AI 行话似乎是一种学术练习，但随着 AI 渗透到我们的生活中，它正迅速成为必要的素养。掌握这些术语；通用人工智能、对齐、紧急行为、回形针、快速起飞、训练、推理、大型语言模型和幻觉，为掌握人工智能的进步及其影响奠定了基础。

这种讨论不再局限于技术爱好者或业内人士，它是我们所有人的重要对话。当我们步入一个充满 AI 的未来时，我们必须推进这一对话，促进对 AI 的潜力及其缺陷的全面理解。

揭开复杂性：一段旅程，而不是目的地

踏上破译 AI 的旅程，人们很快就会意识到，到达目的地并不重要，而更多的是持续学习。这种人工语言，就像技术本身一样，不断发展，培育出充满创新和发现的景观。

我们对 AGI、对齐、紧急行为、回形针、快速起飞、训练、推理、大型语言模型和幻觉等术语的探索仅仅是个开始。

挑战不仅在于理解这些术语，还在于跟上不断变化的话语。然而，回报同样令人信服。随着潜力的不断增长，对其词汇的扎实掌握使我们能够利用能力、降低风险并积极参与塑造人工智能驱动的未来。

随着人工智能在我们生活中的作用不断扩大，了解其术语不再是一种奢侈，而是一种必需。因此，让我们带着这些知识，继续我们的扫盲之旅，大胆地步入一个装备齐全、消息灵通的 AI 驱动的未来。