父亲研究研究的最新演讲：AI的未来是经验的时期

资料来源：DeepTech最近，理查德·萨顿（Richard Sutton）被称为“强化学习之父”，并赢得了2024 ACM图灵奖，他在新加坡国立大学发表了人工智能的未来演讲，他系统地解释了他对AI的技术，哲学和社会技术趋势的剪裁态度。他认为，AI正在从“人类数据的时代”到“经验的时代”进行重大转变，并强烈呼吁社会以分散的合作精神来取代基于恐惧的集中控制，并大胆欢迎未来的AI。从人类数据的时代到体验的年龄，萨顿首先将演讲的基调列出了两个介绍：第一句话起源于未来主义者雷·库尔兹维尔（Ray Kurzweil）：“智能是最糟糕的”句子，“第二句话是“计算机科学之父”艾伦·图林（Alan Turing）衍生出来的：“我们所有需要从经验中学到的机器。”人工智能的诞生，人们对从经验中学习感兴趣，这是强化的主要研究。萨顿警告说：“人类的年龄。消耗大多数高质量的人类数据源，例如重要的矿物质。 “他认为，为了创建对真正含义的新知识，AI必须超过这种以人为本的方法并依靠静态历史数据。体验” - 一种全新的范式，用于生成数据和研究。照片丨Sutton和他的同事David Silver在体验期间发表了一篇简短的论文（来源：Richard Sutton），定义了“经验”的含义，详细定义了“体验”的含义：这不是一个神秘或哲学的概念：这是由代理商由代理商由代理商来制作的，但由代理商制成的代理人，但代理人形成的代理人形成的代理人，但通过代理商来形成代理商，但代理商的代理商是由代理商制成的，但由代理商的代理商来形成了代理，但由代理商来形成代理商，但代理商是由代理商制作的，但代理商是由代理商制成的，但代理商是由代理商来形成的，而不是代理商，但数据流由代理商，而不是代理商，但数据流由代理商，而不是代理商，但代理商的代理商是由代理商来形成的。代理商，第一次，但代理商 - 基于数据。与世界的实时接触与代理商自己的行为密切相关。 “这是所有生物知道的真实方法。”他举了一个例子。 “知道一个婴儿，他将始终联系周围的玩具。当玩具再也无法带来新的研究时，他将重返下一个。他与世界的关系将继续制定新的专属研究数据。”如果这是足球运动员迅速做出农场决策或精确地在狭窄的空间中飞行，那么这些情况涉及高带宽实时信号处理和基于即时反馈的研究。通过书面文本，更多的“体验”数据的财富更多地达到了。 （来源：YouTube）萨顿强调，真正的智能在于代理人预测和控制自己的信号的能力（尤其是奖励信号）。这是加强研究理论的基础。从让AI在早期赢得Atari Games到Alphagago的第37手，称为“一位众神”在“想象力”中表演了数百万个自我游戏（一种模拟体验），所有这些都证实了“学习体验”的强大力量。今天，我们看到最新的AI代理人开始授权采取行动，与环境协调并考虑其后果，这表明明天真正推动了“体验时期”的门。在十年甚至五年内，其他强大的AI形式将克服在“人类数据时代”中表现出色的巨大语言模型，因为“比抓住我们对人的知识更好地计算得更好”。哲学家的社会 - 分散合作与集中控制相比，萨顿任命了这个主题为更深层次的哲学和社会哲学问题，探讨了如何在未来建立人们与AI一起建立的社会。他首先澄清了一个基本前提：在任何复杂的社会中，无论是人类还是人工智能，自然而合理的人都有不同的旨意OS。 “由于我家人的目的不是您家人的目的，因此我的食物需求与您不同。”基于这一点，他回顾了两个基本概念：协作：指具有相同目的的个人，该端对标准端点，例如蜜蜂殖民地或蚂蚁巢。合作：是指具有不同目标的个人，这些目标是为了实现Ang Moth福利，例如市场上劳动力的交易和专业分裂。 “合作是人类文明的超级大国。”萨顿坚持。他认为，从经济市场到政府机构的人类社会的发展是大规模和分散合作的重要产物。相反，战争，盗窃和腐败是合作的完全失败。该框架显示了与人类社会的主要矛盾：一方面，我们必须建立集中的当局和机构（例如法律），以促进合作和惩罚骗局；另一方面，我们这些集中的力量总是要谨慎，这些力量变得极为强大，因此在压迫和固执中出现并杀死了活力。萨顿将这一理论应用于当前关于Pamaai AI的辩论。他认为，有许多流行的论点，例如呼吁进行AI研究暂停，强调“ AI对齐”（将AI目标与人类价值观保持一致），并且AI中的潜在风险过多，基本上呼吁基于恐惧进行“集中控制”。 （来源：YouTube）“他是我们的潜台词，'AI对您太危险了。对我们的控制权太危险了，我们可以确保所有人的安全。”他显然教了。他认为，这种心态与言语，贸易和思维的历史控制没有什么不同。这全都是要迫使人们通过中央权威团结人们的所有目标和行为。他具有稳定的抵抗力。他认为正确的道路不会设计和控制人工智能的自然目标，因为不仅是ITO困难，但是世界可以生活​​和建立，并使“合作”成为最合理的选择。 “如果我们创建一个将AI视为敌人，囚犯或工具的世界，那么他们停止或欺骗我们是合理的。”但是，如果我们创造一个开放，公平，有用和获胜的环境，那么与我们合作将是他们最合理的生存方法。 “在“设计师时代”作为助产士的演讲结束时，萨顿将自己的愿景提高到了宇宙的演变的巨大规模，为人工智能和人民的作用提供了高度哲学的定位。这种观点是人类智慧的演变。第四次。 “时间设计” - 也就是说，我们今天谈论的具有设计功能的设计系统是通用人工智能。 “我鼓励每个人在我们的骄傲中大胆地拥抱这一不可避免的未来，这是大学的发展ERSE和一种冒险精神探索未知的精神。”参考文献：1。