我们最后的发明 7.5分
读书笔记 第177页
沙漠十三忠

I·J·古德并没有“ 发明 ”智能爆炸,一如艾萨克·牛顿并没有 “ 发明 ”万有引力。古德所做的,无非是观察一种他认为不可避免、

对人类完全积极的事件:产生“超级智能 ”解决人类难于解决的问 题。然而,又活了 30 年之后,古德改变了心意。他说,我们会依照 自己的形象制造超级智能机器,然后机器会摧毁我们。为什么?就 跟我们绝不同意对 AI 研究下禁令的原因一样,就跟我们很可能会把

“ 忙碌小孩 ”放归自由的原因一样。也是出于同样的原因,彻底的理 性 AI 开发人员斯蒂芬·奥莫德罗,以及其他我遇到的每一个 AI 专家 都认为,在更充分了解 AGI 危险性之前停止开发 AGI 是行不通的。

0
《我们最后的发明》的全部笔记 10篇
豆瓣
我们的精神角落
免费下载 iOS / Android 版客户端