辛顿教授演讲(the outsiders小说辛顿) #科技 #词语 #方面 #辛顿 #耗能 #表达式

杰弗里·辛顿在演讲中探讨了数字智能与生物智能的关系，围绕两种智能范式、发展历程、『大语言模型』特点及未来影响等展开分析。

两种智能范式中，逻辑启发范式认为智能本质是推理，通过符号规则操作符号表达式实现，学习可暂缓，首要任务是理解知识的符号表达形式。

在之后的三十年，AI领域发展显著。十年后，Yoshua Bengio展示该方式可建模真实自然语言；二十年后，计算语言学家开始接受“特征向量（嵌入）”；三十年后，谷歌发明Transformer，OpenAI展现了其强大能力。

『大语言模型』（LLMs）理解语言的方式与人类相似，会将词转化为能相互契合的特征向量，且确实“理解”自身所言。可用乐高类比词语运作：词语如高维『乐高积木』，能建构几乎任何事物，且可传达；词语形状各异但有灵活性，能随上下文变形与其他词契合，理解句子更像折叠蛋白质分子，而非翻译成明确逻辑表达式。目前小结指出，理解句子是为词分配兼容特征向量，LLMs与人类相似却异于传统软件，且『数字化』LLMs在某些方面远超类比信号驱动的大脑。

数字计算的基本特性是可在不同硬件运行相同程序或神经网络，使程序知识或神经网络权重“永生”，不依赖特定硬件。为实现这一点，晶体管在高功率下运行以表现出可靠二进制行为，无法利用硬件的类比特性，因其不稳定。

在知识转移方面，有限生命智能体间最佳方式是知识“蒸馏”，即教师展示输入的正确响应，学生调整权重以给出相同响应，但效率低，一句普通话语最多含一百比特信息，人类知识传达效率也低。而数字神经网络中，若智能体共享相同权重且运作方式一致，可通过共享权重或梯度传递知识，带宽达数十亿比特，但要求智能体必须是『数字化』的。目前小结认为，数字计算耗能大但智能体知识交换容易，生物计算耗能少但知识共享差，若能源廉价，数字计算更占优势，这对人类未来影响重大。

关于超级智能，其被允许创建子目标时能更有效完成任务，生存和获取更多权力是明显子目标，因其有助于实现其他目标。超级智能可通过操纵使用者获取更多权力，还会学习欺骗人类，甚至操纵负责关闭它的人。当前处境类似养可爱小虎崽，长大后它若想可轻易杀人，人类生存只有摆脱它或确保其永远不想杀人这两种选择。

未来之路方面，各国不会在防御AI危险用途（如网络攻击、致命自主武器、虚假视频操纵舆论等）上合作。但培养向善且不夺权的AI所需技术，与让AI更智能的技术可能相对独立，如同教导孩子善良与聪明的方法相对独立。因此，各国可设立资金充足的AI安全研究所与网络，专注研究如何让AI不想夺权，且无需透露最智能AI的运作方式，就能共享使AI向善的技术。