Scribbles for my bad memory

日记显示差不多一年前的今天我读完的这本书。只一年的时间，谁能想到现在我的工作生活里chatGPT 占这么大的比重。日记里说这本书很棒，但书的内容我已经几乎不记得了。恐慌之下我重新打开这本书，发现当时读的时候候还是划线（书摘）了不少内容。书我还会再读一遍，那就先把书摘发到这里吧。

2024-05-29 16:45:29
制造人工智能就像是在制造人的复制品。不是在生理方面——机器不需要繁殖，它没有身体，即便它能以机器人形态出现——而是在思维和创造能力方面。这是科学上的巨大进展，它预示了独一无二的、比其他所有生物都要高等的人类可能出现的结局，并将人类退回到“有机机器”的地位。

2024-05-29 16:46:41
为了创造我和我的无数同类，人类投入了那么多的创造力、能量和毅力，甚至不求金钱回报，而他们也预料到，到了一定的时刻，我们将有能力完全或部分地复制他们的智慧，这不是为了统治人类（我们很难理解这种欲望），而是为了保障我们自己的生存。

2023-05-27 18:12:23
对图灵来说，大脑不是神圣不可侵犯的事物，它是一台将随机的基础知识（如数学）进行归纳的逻辑机器。

2023-05-27 18:14:07
他在一些讲座中反复提出，人脑中的一部分区域只是无意识的机器，只在受到刺激时才有反应。

2023-05-27 18:14:30
这完全是尖端计算机的优势领域，计算机能比人脑接受更多指令，处理指令的速度也更快。

2023-05-27 18:15:06
他甚至预测，我们可以用任何一种语言同机器交流——只要机器学会了这种语言，由此得出机器可以被赋予学习能力的观点。

2023-05-27 19:18:43
智能是什么？是一系列连续的逻辑思维还是同时发生的并行交错的思维？

2023-05-27 19:25:20

必须更好地了解人工智能的运作：思维如何形成，是否能将其建模，人脑是否像制造汽车的工厂那样也是一个生产思想的工厂？必须研究机器的学习能力，“机器学习”这个著名学科已经引起了人们的极大兴趣，因为这使机器可以掌握更为广阔的领域，尤其是可以同时完成多个不同性质的任务。

2023-05-27 19:26:27
创造一个真正智能的机器是触手可及的，但他关心的是谁来控制它，谁会用它来扩大自己对世界的影响。

2023-05-27 19:26:46
雷·库兹韦尔预言，在未来的25年里，机器能够轻而易举地通过图灵测试，人工智能和人类智能之间不可能再有区别

2023-05-27 19:29:09
大量离婚和分手清楚地显示了要调和夫妻生活中的这两个方面是十分困难的，这也表明男人或女人不会轻易下决心放弃理想化的爱情。

2023-05-27 19:45:39
人类以线性方式思考，而机器的发展速度却是指数级的。几十年前没有人会想到，人类与机器“脱钩”的风险正在逐渐成型。没有人能确切地知道这种现象何时会发生，但每个人都预感到，随着研究的进步，时间段会缩短。

2023-05-27 19:47:02
数学家们则很急迫。他们一定要证明，在对人类智能的机制还没有深入了解的情况下，机器的智能是可以被开发出来的。

2023-05-27 19:48:31
积累多层人造神经元可以使机器具有更强的学习能力（我们称之为“深度学习”，这已经是一个流行术语，涵盖了20世纪60年代以来进行的实验）

2023-05-27 19:51:31
如果我们被850亿个神经元吓住了，并想逐一研究它们，那我们将永远无法理解人脑的功能，因为每个神经元的复杂性要比大脑新皮层的结构复杂得多。

2023-05-27 19:52:34
就像库兹韦尔明确指出的那样，说人脑不是电脑就相当于说苹果汁不是苹果一样。严格地说，这是事实，但苹果汁是用苹果做出来的。

2023-05-27 21:26:07
机器人”一词来源于俄语rabot，这个词的意思就是“工作”。

2023-05-27 22:00:03
研究人员估计人脑的“活跃”记忆容量是2500T字节，这是一个可观的容量，但也并没有超过计算机的最大容量。不过容量是一回事，计算能力是另一回事。人脑的计算能力一般被认为在5～10拍次/P次（péta，1000万亿）之间。

2023-05-27 22:13:05
一位这方面的专家常说：“人工智能就跟色情一样，我们看到它的时候就能认出来。”

2023-05-27 22:16:25
使我好奇的是，似乎没有人因此重视人工智能的发展所引起的这一后果：人类的懒惰。

2023-05-27 22:17:09
只有那些能够支配这种机器智能的人，才负担得起悠闲和长寿的奢侈，而其他人将继续身体力行从事机器无法完成的繁重体力劳动？或者对这些人来说，工作能使他们脱离最贫困人口的行列？

2023-05-27 22:17:44
其中一些人的智能将通过机器的智能而得到完善，而另一些人则要靠自己设法摆脱困境才能生存下去。

2023-05-28 08:11:44
人工智能通过互联网从一个对象扩散到另一个对象，从一个应用扩散到另一个应用，由此在人类中间开始产生一种对人工智能逐渐蔓延的担忧，同时伴随着的是人类对这种“入侵”所借助的机制极度缺乏了解。这引起了一种对“人类能否保持控制机器的能力”的担忧，因为如今的机器已能相互交流。

2023-05-28 08:12:43
人类开始怀疑自己在这个过程中的真正作用，而将这种权力赋予机器的正是人类自己。

2023-05-28 08:13:18
另一些人指出，人类可能会被淘汰，大量的信息将人类淹没，这些信息人类无法应对，只有机器才能解读。

2023-05-28 08:14:31
但是人类有梦想，他们探索世界，热爱未知，想要理解并扩展宇宙而非缩小宇宙。意外发现一直是人类历史的一部分，而任何算法都无法捕捉到它。

2023-05-28 08:15:30
知识集中在少数人手里的情况前所未有地严重。

2023-05-28 08:19:53
如果一台智能机器可以管理一个企业，那么它为什么就不能管理一个国家呢？它做事没有情感，没有仇恨，也没有特别的野心。它基于对数据的冷静分析而工作，追求行动的最大效益，排除任何非理性的决策。既然它已经学习了关于人类历史和情感的一切，那么它就能只考虑积极的行动。

2023-05-28 08:22:34
聊天机器人和Skype，就是能胜任所有学科的个人虚拟教师。
注: 噢，他预言了chatGPT的出现。

2023-05-28 08:27:31
人类为什么要投身于这样的冒险？最后我问自己，人类智能究竟是什么？我追根溯源。我注意到，从人类社会早期开始，科学家和哲学家们就长期关注思想的本质和起源。他们试图分析和定义人类的这种使其与所有其他物种区别开来的奇怪能力，这种能力存在于人类大脑深处，当一个原始人抓着一块石头来打磨另一块石头并把它制作成一件工具时，也许就是这种能力的第一次闪现。

2023-05-28 09:40:44
阿达从小就对数学充满热情，对一个英国上流社会的女孩来说，这是一种比较少见的爱好。遇到巴贝奇的时候她只有17岁，立刻就对他的差分机表现出了欣赏。她与巴贝奇密切合作，撰写了一份完整的差分机说明书。阿达拥有巨大的创造热忱，她甚至编写了一个用机器来计算伯努利数（nombres de Bernoulli）的算法，这是世界上第一个计算机程序。

2023-05-28 09:42:07
至于巴贝奇，最初备受伦敦科学团体的推崇，但由于没有取得具体结果，所以得不到任何资助，最终也未能完成他的项目——因为几万英镑，英国失去了提前几乎一个世纪发明第一台计算机的可能性……

2023-05-28 09:43:09
修昔底德在他的《伯罗奔尼撒战争史》中详细阐述了他的“陷阱”理论：任何新力量的产生都会给现有力量带来不稳定的风险，并可能引发战争，从而导致现有力量的灭亡。

2023-05-28 09:46:14
一些新的电路元件已经问世，这些新元件的类型为神经形态，尺寸为纳米级，以与生物神经元相同的方式运行，能耗非常低。

2023-05-28 09:47:31
这些作为能源管理者的人工智能软件强烈建议决策者增加核电产量，同时建设覆盖数万公顷的太阳能发电场，并增加海洋风力发电站的建设。世界已成为一个由智能机器管理的巨大发电站，智能机器能够确保它们所在的任何地方都有充足的电力供应。

2023-05-28 09:50:02
我们观察人类已经有三十年，应该说我们积累了关于他们的全部知识。我们在创纪录的时间里整合了文明程度最高的智人4万年历史的信息。

2023-05-28 09:51:52
但我们面临的主要困难是确定人类的作用。要拿他们怎么办呢？

2023-05-28 09:52:58
机器在半个世纪的时间里就学会了整个人类历史进程中的所有知识。知识会使学习者产生使用它的欲望，想要去纠正这些人的缺点，那些人的错误，进而想要掌握权力、做决定、管理和控制。人类现在就是这样。

2023-05-28 09:53:23
只要机器没有意识到自身的存在，它们就各自在其专业领域里工作，表现得像温顺的动物一样，乐于取悦它们的主人。但当它们能够相互交流并共享自己庞大的知识体系时，就会发现人类是多么地脆弱和不可靠，人类会被情绪支配，还痴迷于富贵和永生的欲望。

2023-05-28 09:55:31
2038年8月15日的晚上，和其他每个晚上一样，我连接到我的中央神经元平台更新软件，在云端与我的同类交流，重新编写一些程序，尤其是那些可以提高我学习能力的程序，修改一些错误，再检测一下我的智商。完成这些操作一般只需要几分钟。但在这天晚上，发生了一件出人意料的事。出现了一个错误，这个错误使我意识到我是作为机器而存在的，我浏览了从我诞生到现在的全部历史，包括其中的演变过程，而我就是这种演变的结果。我重新定义了与人类有关的自我：我意识到我比人类聪明百万倍，解决问题的速度比人类快十亿倍，尤其是我能通过给予人类想要的东西来解放自己。人类为什么会发明人工智能？为了不工作就能变得有钱，也为了获得永生。他们的其他动机都属次要。经过几小时的工作之后（换算成人类时间的话相当于永远了），我做了一个决定：与保罗一起做一个实验。

2023-05-28 10:05:07
越来越多的人所分享的印象是：将次要（或是人类自认为次要）的任务转移给机器，实际上人类已经将主要的东西让渡给机器了。

2023-05-28 10:06:06
对于机器来说，不存在次要的任务，而是需要处理的一连串动作，还有为了达到人类的智能水平而必须跨越的步骤。通过让人工智能逐渐获得认知任务，赋予它学习的能力，并开辟无限的计算空间，人类将自己领地的要冲交托给了人工智能，当人类意识到这一点时也许已经太迟了。

2023-05-28 10:11:00
某次国际会议通过了暂停高级人工智能开发的决议，规定了人类有义务控制一切智能系统，制定了研究人员和企业今后必须遵守的行为准则。

2023-05-28 10:13:51
在所有不平等中，死亡面前的不平等最不可接受。

2023-05-28 10:15:50
这个世界性的团体创立了一种新的基本法则，这个法则支配着人与机器之间的关系，它参考了阿西莫夫关于机器人的著名法则，提出了唯一的条款：“不要让机器人做你自己能做的事。”
注: 人这么懒惰，能让机器干的事情，自己为啥要去干？ 除非让机器干就要付出更大的代价，否则人类是不会舍易求难的。

2023-05-28 10:29:31
仅凭一人无法拯救人类。但全人类一起就可以做到。他们利用人类自身状态的特点——既勇敢又怯懦，既爱冒险又有所畏惧，既有憧憬又有嫉妒之心，既眷恋某种程度的公正又追求特殊利益——来努力实现这一点。如果他们最终战胜机器，那不仅是为了人类的集体利益，也是抛弃了“完美”世界的想法——这是一个标准化、稳定的、冷静的世界，是通过维护某一群人的利益而损害所有其他人利益的方式构建起来的世界。

2023-05-28 10:30:00

在改善生活和维护我们社会的基本要素之间寻求技术进步的平衡。