其实一个人是不可能 " 完整 " 参加智源大会的，因为它两天会期从早到晚都安排了几乎在同时进行的诸多议程。不包括开幕式和线上的特邀报告，仅大的分论坛就有 13 个之多，不仅涵盖了目前最火热的大模型领域，智源坚持的开源理念，以及始终强调的具身智能和类脑智能并行路线也都被囊括其中。下面是品玩筛选的其中最值得关注的观点和金句，以及我们的评论分析。

Yann LeCun 杨立昆

How is it that we have systems that are fluent, that can pass the law exams or medical exams, but we don"t have domestic robots that can clear up the dinner table and fill up the dishwasher, right? This is something that any 10-year-old can learn in minutes, and we still don"t have machines that can come anywhere close to doing this. So we"re obviously missing something extremely major.

(资料图)

为什么我们有流畅的系统可以通过法律或医学考试，但没有可以清理餐桌和装满洗碗机的家用机器人？ 这是任何 10 岁孩子都可以在几分钟内学会的东西，而我们仍然没有可以接近做到这一点的机器。我们显然遗漏了一些非常重要的东西。

杨立昆的演讲发生在智源大会开幕式，彼时他人正在法国，而时间是凌晨 4 点。杨立昆在演讲中宣称，如果想要让机器拥有更高级别的人工智能，那么它应该学习人类认识世界的方式——学习推理、学习将复杂任务分解成简单任务。

将上述的理念和成本的因素考虑进去后，杨立昆提出所谓 " 世界模型 "，尽管尚无具体的实现步骤，但杨立昆认为 " 世界模型 " 将很好的避免生成式模型带来的缺陷。

杨立昆同时也认为强大人工智能的威胁可以通过技术手段轻松遏制，这与他回击马斯克有关人工智能威胁的论调相一致。

Max Tegmark

I think Yann LeCun was teasing me a little bit. He called me a doomer. Look at me – I ’ m pretty happy and cheerful – more optimistic than Yann LeCun about our ability to understand future AI systems. …… I think if we go full steam ahead and give ever more control away from humans to machines that we don ’ t understand, that will end very badly. But we don ’ t have to do that. …… we can actually make sure that all this ever more powerful intelligence works for us and use that to create an even more inspiring future than science fiction writers used to dream of.

我觉得杨立昆在逗我玩。 他叫我末日使者。 看看我——我非常高兴和开朗——比杨立昆更乐观地认为我们有能力理解未来的人工智能系统。 ……我认为，如果我们全力以赴，将更多的控制权从人类手中交给我们不了解的机器，那将导致非常糟糕的结果。 但我们不必那样做。 ...... 我们实际上可以确保所有这些强大的智能为我们服务，并利用它来创造一个比科幻作家过去梦想更鼓舞人心的未来。

Max Tegmark 在随后与张亚勤的一对一谈话中对中国在 AI 监管与治理领域的水平给予了很高评价，在他的心目中，中国位居第一，欧洲第二，美国则排名第三。

Sam Altman

The book of the Tao reminds us that the journey of a thousand miles begins with a simple step. We think the most constructive first step to take is with the international scientific and technological community.

《道德经》提醒我们，千里之行，始于足下。 我们认为（AI 安全与对齐）最有建设性的第一步是与国际科技界合作。

在一对一访问环节，Sam Altman 回应了智源研究院理事长张宏江有关通用人工智能的问题。Sam Altman 谨慎地表示，尽管无法做出任何实质性的预测，但他认为十年内人类将拥有强大的人工智能系统（AI System）。

另一个大家普遍关心的问题是开源。Sam Altman 其实已经在许多场合回应过这个问题，他再次表示 OpenAI 没有相关的新的有关开源的时间表，尽管他承认在有关 AI 安全的问题上，开源模型具有优势，但 Sam Altman 强调开源所有东西可能并不是一条（促进 AI 发展的）最佳路线。

Geoffrey Hinton

One advantage we have, one fairly small advantage, is that these things didn"t evolve. We built them. And it may be that because they didn"t evolve, they don"t have the competitive aggressive goals that hominids have. …… And maybe we can give them ethical principles. But at present, I"m just nervous, because I don"t know any examples of more intelligent things being controlled by less intelligent things, when the intelligence gap is big. And the example I like to think about is suppose frogs had invented people. Who do you think would be in charge now, the frogs or the people?

我们（人类）有一个微弱的优势 AI 没有，那就是进化。我们创造了它们，这或许意味着 AI 没有原始人具有的那种竞争性和侵略性。我们或许可以给它们赋予道德原则。

但现在，我真正紧张了，我还想象不到更智能的事物，被一些反倒没那么智能的事物所控制的例子，（尤其）当智能的鸿沟非常巨大的时候。

一个例子是，假设青蛙发明了人类，那现在是谁说了算呢，青蛙还是人？

最近 Geoffrey Hinton 最引人注意的新闻是辞去了他在谷歌的职务，因为他对目前人工智能惊人的发展速度感到了恐慌——本次智源大会上的演讲，Geoffrey Hinton 延续了这个论调。在他看来超级智能到来的时间将比他本人预料的早得多，而他本人甚至看不出要如何防止 AI 失控的状况发生，他在演讲中公然宣称把希望寄托在了年轻一代身上。