人工智能像其他技术一样激起我们最高的抱负和最深的恐惧。就好像机器能够以我们只能梦想的速度和技能执行任务的每一个闪闪发光和普罗米修斯式的承诺都伴随着人类流离失所和过时的噩梦。但是，尽管最近人工智能在以前由人类主导的语言和视觉艺术领域取得了突破——GPT- 3 语言模型的散文创作和DALL-E 2的视觉创作系统引起了强烈的兴趣——我们最严重的担忧可能应该得到缓和。至少根据计算机科学家 Yejin Choi 的说法，他是 2022 年享有声望的麦克阿瑟“天才”奖的获得者，他一直在进行开创性的研究，以发展人工智能的常识和道德推理。 45 岁的 Choi 承认道。“它有冒险的感觉，”崔谈到她的工作时说。“你正在探索这个未知领域。你看到一些意想不到的东西，然后你觉得，我想看看外面还有什么！”
人们对人工智能最大的误解是什么？他们做出仓促的概括。“哦，GPT-3可以写出这篇精彩的博客文章。也许 GPT-4 将成为纽约时报杂志的编辑。” [笑]我不认为它可以取代那里的任何人，因为它对政治背景没有真正的了解，所以不能真正写出与读者相关的东西。然后是对人工智能感知的担忧。总有人相信一些没有意义的事情。人们相信塔罗牌。人们相信阴谋论。所以当然会有人相信人工智能是有感觉的。
我知道这可能是问你的最陈词滥调的问题，但我还是要问：人类会创造出有感觉的人工智能吗？我可能会改变主意，但目前我持怀疑态度。我知道有些人可能会有这种印象，但当你与 AI 如此接近时，你会看到很多局限性。那就是问题所在。远远看去，天哪！走近了，我看到了所有的缺陷。每当有大量模式、大量数据时，人工智能就非常擅长处理这些——某些事情，比如围棋或国际象棋。但人类倾向于相信，如果人工智能可以做一些聪明的事情，比如翻译或国际象棋，那么它一定也擅长所有简单的事情。事实上，对机器来说容易的事情对人类来说可能很难，反之亦然。你会惊讶于人工智能如何与基本常识作斗争。这很疯狂。
你能解释一下“常识”在教给人工智能的背景下是什么意思吗？一种描述方式是，常识是智力的暗物质。正常物质是我们所看到的，我们可以与之互动的。很长一段时间以来，我们一直认为这就是物理世界中存在的东西——仅此而已。事实证明那只是宇宙的 5%。百分之九十五是暗物质和暗能量，但它是不可见的，无法直接测量。我们知道它存在，因为如果它不存在，那么普通物质就没有意义。所以我们知道它在那里，而且我们知道它有很多。我们正在以常识来实现这一点。这是你我所拥有的不言而喻的、隐含的知识。它是如此明显，以至于我们常常不谈论它。例如，一匹马有几只眼睛？二。我们不说，但每个人都知道。我们不知道你和我有多少我们没有谈论过的知识——但仍然知道——但我的猜测是有很多。再举一个例子：你我都知道鸟会飞，而企鹅一般不会。所以 AI 研究人员认为，我们可以编写代码：鸟类通常会飞，企鹅除外。但事实上，例外是对常识性规则的挑战。初生的雏鸟不能飞，沾满油的鸟不能飞，受伤的鸟不能飞，笼子里的鸟不能飞。关键是，例外并不例外，即使没有人告诉我们，你我也能想到它们。这是一种令人着迷的能力，但对 AI 来说并不容易 我们知道企鹅通常不能。所以 AI 研究人员认为，我们可以编写代码：鸟类通常会飞，企鹅除外。但事实上，例外是对常识性规则的挑战。初生的雏鸟不能飞，沾满油的鸟不能飞，受伤的鸟不能飞，笼子里的鸟不能飞。关键是，例外并不例外，即使没有人告诉我们，你我也能想到它们。这是一种令人着迷的能力，但对 AI 来说并不容易 我们知道企鹅通常不能。所以 AI 研究人员认为，我们可以编写代码：鸟类通常会飞，企鹅除外。但事实上，例外是对常识性规则的挑战。初生的雏鸟不能飞，沾满油的鸟不能飞，受伤的鸟不能飞，笼子里的鸟不能飞。关键是，例外并不例外，即使没有人告诉我们，你我也能想到它们。这是一种令人着迷的能力，但对 AI 来说并不容易 即使没有人告诉我们，你我也能想到它们。这是一种令人着迷的能力，但对 AI 来说并不容易 即使没有人告诉我们，你我也能想到它们。这是一种令人着迷的能力，但对 AI 来说并不容易
您之前提到 GPT-3 时有点怀疑。你认为它不令人印象深刻吗？我是 GPT-3 的忠实粉丝，但同时我觉得有些人把它做得比现在更大。有人说，也许图灵测试已经通过了。我不同意，因为，是的，也许它看起来好像是基于 GPT-3 的一项最佳性能而通过的。但如果你看一下平均表现，它与强大的人类智能相去甚远。我们应该看看平均情况。因为当你选择一项最佳表现时，实际上是人类智能在进行艰苦的选择工作。另一件事是，尽管在很多方面取得的进步令人兴奋，但有太多事情不能做好。但人们确实做出了这种仓促的概括：因为它有时可以做得很好，那么也许通用人工智能指日可待。没有理由相信。
Yejin Choi 于 9 月在华盛顿大学 Paul G. Allen 计算机科学与工程学院主持了一个研究研讨会。 约翰 D. 和凯瑟琳 T. 麦克阿瑟基金会
那么，现在您在 AI 领域的工作最令您兴奋的是什么？我对价值多元化感到兴奋，因为价值不是单一的。另一种说法是，没有普遍的真理。很多人对此感到不自在。作为科学家，我们被训练得非常精确并为一个真理而努力。现在我在想，好吧，没有普遍的真理——鸟能飞还是不能飞？或社会和文化规范：打开壁橱门可以吗？一些整洁的人可能会想，总是关闭它。我不整洁，所以我可能会把它打开。但如果壁橱出于某种原因是温度控制的，那么我会把它关上；如果壁橱在别人的房子里，我可能会表现得很好。这些规则基本上不能被写成普遍真理，因为当在你的上下文和我的上下文中应用时，这个真理将不得不被扭曲。道德规则：必须有一些道德真理，你知道？例如，不要杀人。但如果是安乐死呢？然后呢？
是的，这是我不明白的事情。当几乎每条规则或真理都有例外时，你怎么可能教人工智能做出道德决定？AI 应该确切地了解：有些情况更明确，有些情况更随意。它应该学习不确定性和观点的分布。让我通过语言模型和 AI 来做一个案例来稍微缓解一下你在这里的不适。训练 AI 的方法是预测下一个单词。那么，给定一个过去的上下文，接下来是哪个词？关于下一个词是什么，没有一个普遍的真理。有时可能只有一个词，但几乎总是有多个词。存在这种不确定性，但事实证明这种训练是强大的，因为当你更全面地看待事物时，AI 确实通过统计分布学习最好的词使用，接下来可能出现的合理词的分布。我认为道德决策也可以这样进行。与其做出二元的、一刀切的决定，不如有时根据这看起来真的很糟糕来做出决定。或者你有你的立场，但它明白，好吧，一半的国家不这么认为。
最终的希望是人工智能有朝一日可以做出中立甚至违背其设计者潜在的不道德目标的道德决定——比如为社交媒体公司设计的人工智能可以决定不利用儿童的隐私吗？还是后端总是会有某些人或私人利益在推翻道德价值尺度？前者是我们希望实现的目标。后者是实际上不可避免地发生的事情。实际上，德尔福在这方面是左倾的，因为很多给我们做标注的众包工作者都有点左倾。左翼和右翼都可能对此感到不满，因为对于左翼的人来说，Delphi 不够左，而对于右翼的人来说，它可能不够包容。但德尔福只是第一枪。有很多工作要做，我相信如果我们能以某种方式解决人工智能的价值多元化，那将是非常令人兴奋的。拥有人工智能价值观不是一个系统的事情，而是像一群人一样具有多维性的事情。
“解决”价值多元主义会是什么样子？这几天一直在想，也没有明确的答案。我不知道“解决”应该是什么样子，但为了这次对话的目的，我想说的是，人工智能应该尊重价值多元主义和人们价值观的多样性，而不是将一些规范化的道德框架强加给每个人。
如果人类处于我们依赖人工智能做出道德决定的情况下，那么我们是否已经搞砸了？难道道德不是我们一开始就不应该外包的东西吗？您触及了人们似乎对我们制作的 Delphi 模型存在的一种常见的——很抱歉直言不讳——误解。这是一个问答模型。我们明确表示，我们认为，这不是让人们听取道德建议的。这更像是测试人工智能能做什么或不能做什么的第一步。我的主要动机是人工智能确实需要学习道德决策，以便能够以更安全、更尊重的方式与人类互动。因此，例如，人工智能不应该建议人类做危险的事情，尤其是儿童，或者人工智能不应该产生潜在的种族主义和性别歧视的陈述，或者当有人说大屠杀从未存在时，人工智能不应该同意。它需要广泛地理解人类价值观，而不是仅仅知道某个特定关键词是否倾向于与种族主义相关联。人工智能
像Nick Bostrom 回形针示例，我知道这可能是危言耸听。但是这样的例子值得关注吗？不，但这就是我从事 Delphi 和社会规范等研究的原因，因为如果你部署愚蠢的 AI 来优化一件事，这是一个问题。这与其说是人工智能错误，不如说是人为错误。但这就是为什么人类规范和价值观作为 AI 的背景知识变得重要的原因 有些人天真地认为，如果我们教 AI “不要在最大限度地生产回形针的同时杀人”，那将解决它。但是机器可能会杀死所有的植物。这就是为什么它也需要常识。不为了保护人类生命而杀死所有植物是常识；不采用极端的、退化的解决方案是常识。
举个更简单的例子，比如 AI 和幽默呢？喜剧充满了意想不到的东西，如果人工智能主要通过分析以前的例子来学习，这是否意味着幽默会特别难以理解？有些幽默是非常重复的，AI 理解它。但是，就像《纽约客》卡通字幕一样？我们有一篇关于那个的新论文。
公平地说，很多人也不能。[笑]是的，这是真的。顺便说一句，我们发现我们研究人员有时不理解纽约客字幕中的这些笑话。这个很难（硬。但我们会继续研究。
当前位置：公众IT
> 人工智能 > 智能家居 > 关于人工智能我们真正应该害怕什么？
版权说明：
9月13日 
5933 浏览
