往届回声｜当机器有了意识，我们是谨慎接纳还是拒绝

第三届世界顶尖科学家论坛将于10月30日-11月1日在上海举行。包括61位诺贝尔奖得主在内，近140位诺贝尔奖、图灵奖、菲尔兹奖、沃尔夫奖、拉斯克奖等全球顶尖科学奖项得主出席。论坛期间将有130余场科学家独立演讲、70余场主题峰会，大部分活动将通过网络向公众直播。

在过往的两届世界顶尖科学家论坛上，人工智能是科学家绕不开的话题。当前的人工智能远不如小说那样先进：它还不具备科幻电影中所描述的意识动机，可这并不能阻止我们担心：人工智能危机会发生在人类的未来。

特此整理世界顶尖科学家论坛往届参与者关于人工智能伦理困境的讨论，希望能帮助读者拨开笼罩人工智能的迷雾，看清人工智能的未来。

科幻小说、电影中到处都有人工智能、智能机器人的例子。比如，《银河系漫游指南》中的艾迪、《星际穿越》中的机器人塔斯、《机械姬》中的伊娃。这些作品中描述的机器人都有一个共同点：容易出错，且会对人造成伤害。

不得不承认的是，当前的人工智能远不如小说那样先进：它还不具备科幻电影中所描述的意识动机，可这并不能阻止我们担心：人工智能危机会发生在人类的未来。

恐惧来自未知

造成这种恐惧的原因是，目前，我们对人工智能的“黑匣子”了解甚少。“现在有一个非常大的争论，就是人工智能是不是能够有一个很深的网络来描述理解。系统可以学很多的东西，学不同的东西，但是这些不同的东西可能很难变成人们可以认知的东西，等于你是学不同的数学概念、学了不同英语的词，相互之间好像可以连在一起，但是这里肯定有一个逻辑推理。”2010年图灵奖得主莱斯利