315.「多伊奇认为不可预测性和难解性是本质上完全不同的两种问题。不可预测性是由初始条件的微小变动引起的系统不稳定。而难解性是由内在的计算量导致的。费曼认为测量本身也是一种计算。当计算量很大时，最简单的方式是让自然界自己该干啥干啥，而在对的时刻测测结果就可以了。举一个不精当的比喻，想知道子弹的弹道，一种方式是考虑所有可能外部内部因素，依靠计算；另一种就是让子弹飞，然后测量。随机数可以通过伪随机函数生成，也可以通过测量一些噪声源得到。图灵1949年就研究过通过外部电子噪声源得到随机数的方法。」
书籍名称：《人工智能简史》
基础信息：尼克 / 2017 / 人民邮电出版社
豆瓣评分：7.2/10
豆瓣链接：https://book.douban.com/subject/27193496/
读完时间：2021-07-03 08:40:21
我的评分：4.0/5.0
我的标签：#2021,微信读书
免责声明：本页面所发布的笔记仅用于分享我在阅读过程中的摘录、总结和反思。内容大多为书中原文或书中观点的简要提炼，并不代表我个人的立场、意见或价值观。书中观点仅供参考，如需深入了解或采纳，请参考书籍的原始内容。
阅读笔记：
《人工智能简史》尼克 (2021/7/2 17:06:09)
第1章 达特茅斯会议：人工智能的缘起
- 机器有没有悟性的边界其实就是人的解释能力的极限。量变到质变的临界点就是人的解释能力，人解释不了的东西就有悟性，解释了的东西就没有悟性。
第2章 自动定理证明兴衰纪
-
普特南是20世纪最有影响力的美国哲学家之一，他提出的“缸中脑”（Brain in a Vat）是最常被引用的假想实验之一
-
小学算术很难的东西，初中代数立个方程马上就解了。每一次数学的突破，往往以脑力劳动的机械化来体现。
-
吴文俊的结论是中国数学是巴比伦式的而不是希腊式的，巴比伦数学讲究计算，而希腊数学讲究公理。
-
有些领域，一开始就把百分之八十的容易问题都解决了，而后就一直很难，进展很慢，少有突破。人工智能就是这样，定理证明尤其如此。深度学习领域近来的进步更多得益于硬件。而定理证明，即使是硬件再发达很多，也还没有看到曙光。
-
最早都叫机器定理证明（Mechanical Theorem Proving），后来改叫自动定理证明（Automatic Theorem Proving），再后来叫自动演绎（Automated Deduction），目前都叫自动推理（Automated Reasoning）。原因很简单，演绎（deduction）只是推理的一种，现在归纳（induction）、溯因（abduction）也都算成推理了。
-
按照知识的食物链，生物学家不敢怠慢化学家，化学家不敢怠慢物理学家，物理学家不敢怠慢数学家。乔姆斯基也说过类似的话：物理不好解的问题就升级到化学，化学解不了的就再升级到生物学。但到数学家这儿却不灵了。数学家背上码了一摞乌龟，但他们却说我们肚子底下啥也没有。
第3章 从专家系统到知识图谱
- WordNet不单是一个同义词辞典，还定义了词的上下位关系，例如，car的一种上位是motor，可以再上位到wheeled vehicle，直到entity。WordNet成为自然语言处理的基本工具。
第4章 第五代计算机的教训
-
太多的律师和会计师是对整个社会资源的浪费。美国的律师协会曾经抱怨说日本对外籍律师的签证额度限制导致美国律师所没法在日本干活。但日本人不鼓励美国律师带来的诉讼习气，认为这会拖累整个日本对技术创新的追求。
-
按人口平均算，日本的律师数量是美国的二十分之一，会计师是美国的七分之一，但工程师却是美国的五倍。
第5章 神经网络简史
-
卡尔纳普想看看这孩子到底有多聪明，就把自己的《语言的逻辑句法》一书送了一本给皮茨。不到一个月，皮茨就看完了，把写满笔记的原书还给卡尔纳普。老卡惊为天人，于是给他在芝加哥大学安排了一份打扫卫生的工作。
-
A Logical Calculus of Ideas Immanent in Nervous Activity，发表在《数学生物物理期刊》上。这篇文章成了控制论的思想源泉之一。有意思的是，这篇文章只列了三篇貌似不相关的参考文献，第一是卡尔纳普的《语言的逻辑句法》，第二是希尔伯特和他学生阿克曼合著的《数理逻辑基础》，第三是怀特海和罗素的《数学原理》。
-
连接主义运动也培养了一堆新人，并使得加州大学圣地亚哥分校的认知科学系成为同类系科的佼佼者。鲁梅尔哈特后转往斯坦福大学任教，2011年不幸死于已挣扎多年的神经退化疾病。乔丹（Michael Jordan）就是他的学生，而吴恩达（Andrew Ng）又是乔丹的学生。
-
人工智能的统计派或神经网络派和逻辑派或符号派之争是从1956年达特茅斯会议开始的。明斯基的合作者佩珀特曾说神经派和符号派的区别就像分子生物学和进化生物学的区别，甚至有人因而争论大学的数学课应该以微积分为主还是以统计为主。
第7章 自然语言处理
-
乔姆斯基认为，所有的语言（人工或自然）都有与此类似的句法结构，并进一步指出语言的结构是内在的，而不是通过经验习得的（acquired）。
-
乔姆斯基是活着的人里被引用次数最多的知识分子，即使从苏格拉底算起，他的引用数也可排进前十。
-
乔姆斯基们也许会接着质疑，这种翻译算理解吗？也许翻译根本就不是理解的问题，翻译本身并不需要解释，翻译只是翻译而已，翻译只是数据问题，而不是语义问题。没有乔姆斯基，我们还要在黑暗中摸索，但有了乔姆斯基，是不是又曾经束缚了我们探索其他方法的可能性？
-
大体上说，问答系统有三个必备的组成部分，第一部分是问题理解，第二部分是知识查询，第三部分是答案生成。这三个部分相辅相成，第一部分和第三部分是自然语言处理的工作，它们通过知识图谱被有机地整合在一起，在定理证明火的时候，被当成狗皮膏万能灵药。问答被转换成定理证明过程。正是在问答系统的研究中发现了定理证明方法在知识表示上的局限。现在的问答系统依靠常识和知识，同时也依靠浅层的推理。知识图谱是核心。
-
但是即使自然语言翻译问题得到了解决，机器可以算是“理解”吗？也许我们根本不需要讨论“中文屋”问题，当机器翻译问题得到解决时，“中文屋”问题自动就成了伪问题呢。
第10章 人是机器吗？——人工智能的计算理论基础
-
非确定性图灵机多项式时间可解的问题简称NP，确定性图灵机上多项式时间的问题简称P。
-
非确定性图灵机多项式可解的问题可以在确定性图灵机上经过多项式时间得到验证。那么在非确定性图灵机上多项式时间可解是不是在确定性图灵机上也多项式可解呢，或者是不是NP完全的问题可以在多项式时间内可解呢，也即NP是不是等于P呢？这个问题目前还不知道答案，它被认为是当前数学和计算机科学最重要的问题之一。P? = NP问题在数学家斯梅尔（Steve Smale）的十八个未解数学问题表和克雷研究所的七大数学问题中都排第三。
-
从图灵机看人工智能，要考虑两个层面，一个是可计算性，另一个是计算复杂性。丘奇-图灵论题在可计算性层面，洪加威的相似性原则在计算复杂性层面。
-
多伊奇认为不可预测性（例如蝴蝶效应）和难解性是本质上完全不同的两种问题。不可预测性是由初始条件的微小变动引起的系统不稳定。而难解性是由内在的计算量导致的。费曼认为测量本身也是一种计算。当计算量很大时，最简单的方式是让自然界自己该干啥干啥，而在对的时刻测测结果就可以了。举一个不精当的比喻，想知道子弹的弹道，一种方式是考虑所有可能外部内部因素，依靠计算；另一种就是让子弹飞，然后测量。随机数可以通过伪随机函数生成，也可以通过测量一些噪声源得到。图灵1949年就研究过通过外部电子噪声源得到随机数的方法。
-
在图灵机上很难求解的问题有可能在量子计算机上用多项式时间解决。其中最热门的问题是素数分解。素数分解问题是公钥加密算法RSA的基础。一般认为素数分解是很难的问题，也就是说当一个数很大时，把这个数分解为素数要消耗的计算资源很大。素数分解问题是不是NP完全的，目前还不知道，即使不是NP完全的，至少也是很难在多项式时间内完成求解的问题。要把一个数n分解为素数，最直观的算法是筛法，即将n被从1到[插图]的数去除一下，RSA算法目前密钥的典型长度是1024位二进制数，朴素筛法就要大约2512次运算，事实上，目前最快的素数算法要远快过朴素筛法，但仍然是近指数的。
-
反而一些理论物理学家更加关注量子计算机的发展，他们其实并不关心能否造出一台可用的量子计算机，他们期盼这个过程中可能出现的理论问题。
-
丘奇-图灵论题也有功能主义的解释：丘奇的λ演算更象是高级的程序语言，而图灵机则像是低级的物理实现，但它们确实是可以互相模拟的。基于λ演算的变成语言例如LISP就是符号处理，但图灵机则更像是汇编语言，它的符号集只有0和1。
-
当人工智能的成就被当作“算法的胜利”和“自由意志的终结”时，我们要小心，被终结的是图灵机的自由意志，还是量子计算机的自由意志，抑或是BSS的自由意志，是可计算性的自由意志还是复杂性的自由意志。我们不能指望畅销书作家代替我们回答，而是要自己思考自己回答。
-
所谓“太阳底下没啥是新鲜的”，但几条简单规则展示的行为却无法解释。如果考虑数学定理证明，我们可以说勾股定理不新鲜——毕竟从简单几何公理不用费太大力气就可证明。但我们敢说黎曼猜想也不新鲜或者庞加莱猜想的证明也不新鲜因为所有结果不都是可以从起始点（那几条数论公理）推出吗？这似乎模糊了柏拉图主义（实在论）和构造主义的边界。
-
彭罗斯除了不满意强人工智能之外，他似乎也不满某些物理学家，我猜可能是费曼和弗雷德金。他在《皇帝的新脑》中说，哲学家被计算机科学家误导，而计算机科学家又被物理学家误导，但物理学中则开始流行“所有东西都是计算机”的有害思想，这是不指名地揶揄弗雷德金和深受其影响的费曼。无论如何，我对费曼和彭罗斯都存有智力的敬仰，他们随便学学就能得知计算机科学的精髓（看看《费曼计算机科学讲义》和《皇帝新脑》中对理论计算机科学的论述），而我很少看到计算机科学家敢对理论物理说三道四，姚期智大概是唯一的例外。
第11章 智能的进化
- 首先，不同动物的脑子构造也有所不同，脑中的神经元数量也完全不同，人脑中总共有860亿个神经元，其中大脑皮层有160亿个神经元。大脑皮层的神经元数量决定了动物的智力水平，人的大脑皮层中神经元数量远高于其他物种，所以人类比其他物种更聪明。大象的脑子总共有2570亿个神经元，但是其中98%的神经元都存在于大象的小脑中。而大象的大脑皮层只有56亿个神经元，无法与人类相比。其次，大脑皮层中的神经元数量越大，能耗也越大。人脑每天消耗的能量占人体全部耗能的25%。人之所以能够很快超越其他物种，主要是因为人类掌握了烹饪技术。能够在短时间内摄入大量卡路里以支持大脑运转。其他物种则将摄入的卡路里用于维持身体运转，不得不牺牲大脑皮层的神经元数量。直立行走的动物要比四足动物更省能耗。
第12章 当我们谈论生死时，我们在谈论什么？
- 苏格拉底受审前一天恰好赶上雅典的“花船节”，祭祀的船要离开雅典再返航。花期，城邦要保持清洁，因而不能执行死刑，于是苏格拉底临死前有一段时间可以和学生们聊哲学。柏拉图据此写了四篇对话。耶稣之死和苏格拉底之死不同，耶稣完成了使命，苏格拉底留下了一堆问题。
附录4 计算机与智能
- 初见前路近可至，细思百事竞待忙。
微信读书