Datawhale干货 

译者:罗泽铭,伦敦大学城市学院

原文:https://bzogrammer.substack.com/p/the-next-century-of-computing

原作:Charles Rosenbauer,审校:肖明远

在这篇文章中,我将对信息处理技术的未来及其对更广阔世界的影响给出55个简短的预测。

这些预测目前还都十分小众,未被大多数人发现。至于预测的结果会以什么样的速度到来,很大程度上取决于人们多快会触及到这些需求场景并加以实现。换个角度讲,这篇文章是为有志于打造未来的人准备的指南;希望你与我一样,憧憬着一个比现在所能看到的更有趣、更振奋人心的未来。

1. 让我们先从显而易见的事情开始。摩尔定律即将走向终结。虽然它不是停滞不前了,但一定在放缓,至少Dennard缩放比例定律现在已不再成立,这消除了许多不完全是内存的芯片进一步缩放带来的好处。

2. 摩尔定律的终结将很快带来更多奇形怪状的硬件未来的几十年这方面的创新将犹如寒武纪大爆发一样层出不穷。

3. 现有的计算架构将被淘汰。不再是x86、ARM或RISC-V。将比人们预期的要深入得多。计算机的基本概念是一台执行一系列指令的机器,在处理器和内存之间来回传输数据。这样的模型最终将被淘汰,取而代之的是更另类的模型。今天的计算机模型将会被认定为是不够严谨的,它们对潜在的效率提升和前沿计算理论应用的产生了掣肘;尤其是仍然活跃应用在现有计算机架构上的20世纪40年代和50年代兴起的不完整的计算理论,这些理论离计算的本质无比遥远。

4. 未来,那些历史遗留代码(功能)将通过仿真软件支持,而不是设备的源代码中支持。现代设备投入了超过99.9%的精力在完备性和便捷性上,已实现看起来运行得像PDP-11一样快的错觉。像乱序执行、缓存一致性等等花哨的功能将被废弃,取而代之的是更简单、更高效、更可扩展的设备。

5. 即使在摩尔定律结束后,通用处理器也能够获得多个数量级的执行速度提升,但这必须在易用性上做出一定牺牲。

6. 硬件的设计将更多以物理学为出发点,而并非以人为模型。计算机由真实的原子构成,使用真实的能量,产生真实的热量,占据真实的空间,并花费时间将比特发送到该空间中的不同位置。这些都是要实实在在产生巨额花费的,如果没有摩尔定律或其他方式提供免费的效率补贴,真正的效率增益将来自解构这些旧模型,并更深刻地理解计算和基础物理之间的关系。

7. 重新对硬件设计和以仿真为中心的兼容性的本质进行思考将有可能纠正旧的设计错误。例如,今天的现代操作系统只有数百万行代码,这是因为90年代为了将驱动程序代码嵌入操作系统来产生性能优势的不够严谨的硬件决策。普通人从scratch重新开始编写操作系统将有新的实际意义。

8. 硅编译器将变得普遍。作为回应,创新晶圆厂将扩大晶圆共享服务。很快,人们就可以自主设计一个定制的中央处理器(CPU)或专用集成电路(ASIC),将文件上传到台积电的网站上,支付500美元,几个月后一批10个芯片将送到你的家中。硬件工程将变得几乎和软件工程一样普遍。

9. 在短期内,不可避免的 Javascript 芯片设计框架将产生巨大的安全问题,融入不可更改的硅中。软件工程师还没有为硬件做好准备。围绕共享晶圆原型的低成本和低容量将在一定程度上缓解问题,但最终已经被硬件工程师使用了几十年的方法论和工具包将需要普惠更广泛的受众。

10. 计算行业将克服对图灵的非理性恐惧。不可判定性被深深地误解了;不可判定的问题必须得到解决,并且必须通过任何有用的静态分析工具定期解决。不可判定的问题并不是不可计算的(这是一个单独的可计算类),而是无理数的计算等价物;不可能精确计算,但很容易近似。一旦这种错位的恐惧消失,代码分析和形式化方法的黄金时代将会到来。

11. 随着硬件变得越来越受物理约束,它将同时变得更加奇怪,但也更加规则。这将采取的第一种形式之一是平铺架构 —— 大量小而简单的处理单元在规则网格中平铺开。这样的架构已经开始出现在一些小众的高性能计算范式的架构中了。

12. 平铺架构上的计算与分布式系统编程有很多共同点,但额外有更高的可预测性和更小的规模。出于与物理相关的原因,对数据进行计算很便宜,而传输数据则相对昂贵。操作系统将开始像服务器一样占用芯片上一定数量内核,系统调用被简单的基于数据包的协议所取代,而不是依赖于上下文切换。专用于特定程序或服务的内核将最大限度地减少移动大量数据的需要,有效地维护专用缓存。

13. 将出现更强大的软件诊断工具。调试器自20世纪80年代以来出现以任何有意义的方式改进,未来会转而使用每秒可以流式传输和可视化兆字节或千兆字节数据的工具。许多应用程序将配备一个专用的诊断仪表板,未来的调试器将能够访问该仪表板。

14. 垃圾收集器可能在小规模上仍然实用,或者对于很少使用硬件的程序。编程语言和其他工具将为内存管理提供更好、更直观的工具,在手动和自动内存管理之间创造一个中景。大型程序的垃圾收集将变得不切实际,因为它依赖于许多行为,而这些行为在物理受限的硬件下中的扩展性是非常差的。

15. 计算机内存通常会更多地使用内存区域和类似技术,这不仅会在释放内存时提供性能优势,而且还能更容易地进行代码分析,更好地控制数据局部性(这将是最重要的性能因素之一)。结合数据物理位置相关性的增加,“堆分配”的概念——将程序中的几乎所有数据混合到一个大的同质区域——将让位于内存被划分为许多具有定义空间布局的专用区域的范式。

16. 更直观的可视化工具将对正常人参与软件开发的能力产生比任何风投机构投资的无代码项目都要大得多的影响。不仅如此,它还将极大地提高专业软件开发人员的生产力。

17. 计算机科学将开始在更深层次上与其他数学分支融合。它也将开始更接近传统的数学领域,如几何和统计物理。然后,计算机科学的洞察力将转向对这些领域产生更深刻的见解。

计算和许多看似不相关的数学和物理领域之间的罗塞塔石头将被开发出来,创造出无数革命性的见解。

18. 这些见解中的大部分将来自对深度学习和大脑进行逆向工程的尝试。那里开发的工具将开始影响用于更传统软件开发的工具,突出计算核心的深层几何关系。这将从根本上改变我们对计算机编程的看法。我们现有的编程范式和语言设计极不可能在这一转变中幸存下来,今天我们几乎无法识别另一边的计算。

19. 将与物理受限的硬件很好地融合。数据存储、通信延迟/带宽和基本几何形状之间有着密切的关系。随着时间的推移,这些关系将变得越来越重要。

20. 机器学习和神经科学的逆向工程努力将结出硕果。生物学其他领域的逆向工程努力也将很快跟进。就像物理学直接启发了大量最强大的现代数学一样,研究由梯度下降或自然选择而不是人类工程设计的计算系统将产生全新的计算范式。

21. 理论神经科学将提供容错计算的新范式。诚然,具有这些特性的理论大脑模型已经被知道了几十年,但它们将在未来变得更加相关。

22. “奇点”将无法实现。人类智慧的巨大力量将被证明不仅仅是大脑的结果,而是人类语言让我们站在巨人的肩膀上的产物,巨人自己也站在别人的肩膀上。是的,更强大的大脑将能够取得一些令人印象深刻的壮举,但也容易在没有不被计算瓶颈的持续现实世界实验的情况下,提出许多“重物比轻物坠落得更快”的论点。暴露在现实世界的熵将成为一个更相关的进步瓶颈。

23. 人类水平的人工智能将会实现,尽管主要来自理论神经科学研究而不是深度学习。许多与人类行为的细微偏差将创造出机器,尽管它们很聪明,但会有严重的社会缺陷,完全无法在社会中发挥作用。人类行为的细微之处需要几十年才能被理解到足以复制一个功能性的人类,人类之间的相互依赖将成为一个更加明显的因素。

24. 来自Neuralink和Synchron的神经植入将变得可用,并具有一些有趣的功能,并且在帮助残疾人恢复功能方面特别有用。然而,在软件开发工具和理论计算机科学取得重大进展之前,从人类风格的计算范式到大脑内部相对陌生的计算的转变将大大减缓更有趣功能的任何进展。

25. 在短期内,多感官计算和感官替代/增强将成为提供大脑植入物所能提供的好处的更有效的方式,而不需要植入物就可以轻松实现。人类对多感官体验有着强烈的渴望。

26. 将开发用于软件开发的感官增强工具。倾听传达有关代码结构和行为的有用信息的声音将成为可能。

27. 感官增强和替代工具将得到进一步发展,并且可能在一段时间内成为残疾人恢复功能的更受欢迎的替代方法,而不是侵入性植入物。

28. 各种形式的非文本编程工具将被开发出来。完全基于音频的编程将为盲人程序员以及那些可能只想在散步时通过与计算机对话来编写代码的人提供。软件开发人员可能不再纯粹依赖于办公桌。触觉反馈也可能涉及其中。

29. 触觉反馈将在设备中变得更加普遍和先进,类似于任天堂Switch中清晰的隆隆声。

30. 当前的虚拟现实浪潮将大概率会被证明是在一条错误的道路上。为iMmErSiOn进行优化将被证明只不过是浪费数十亿美元的模因。一本好书是身临其境的。虚拟现实的真正好处将是显著增加可以从大脑中提取的数据带宽,并通过增加人机交互的感觉范围。这一教训可能是必须艰难吸取的,可能会让某家正将全部赌注押在这一点上的万亿美元科技公司破产。

31. 事实将证明,增强现实比虚拟现实更有用。我们进化大脑是为了更好地驾驭周围的世界,而不是逃避到幻想世界。任何看到任何大规模采用元宇宙式技术的国家都将面临反乌托邦和迅速的经济崩溃。虚拟现实工作模拟器不会把食物放在桌子上,也不会运行晶圆厂来制造芯片,如果没有这种技术,芯片是不可能的。  另一方面,AR将增加许多非常复杂和技术性的工作,最终将证明非常有经济价值。

32. 量子计算将在一些领域被证明是有用的,但可能不会破坏任何真正的密码系统。最小化量子系统中的噪声和错误太难了,无论是量子退相干还是量子系统的模拟性质。相反,量子计算作为模拟其他量子系统的工具将是最有用的。这将彻底改变材料科学。

33. 奇怪的量子特性将被发现,并最终进入计算设备。各种奇异的量子传感器将进入市场。

34. 现代芯片制造背后的光刻技术将开始用于许多其他技术领域中。像微流体、微机电系统等等,可能还有许多其他不太明显的东西。例如,Neuralink使用的电极已经在使用这些技术开发。

35. 在某个时候,一些固态量子现象会被发现,创造出令人信服的晶体管替代品。它们不会取代晶体管,而是会产生将晶体管与其他可以更有效地执行某些复杂逻辑功能的设备结合在一起的芯片。  互补式金属氧化物半导体工艺,几十年来一直是数字逻辑的标准技术,它已经使用了多种不同类型的晶体管的组合,因为这产生了巨大的能效收益,即使它大致增加了电路的复杂性。将工具箱扩展到两种类型的晶体管之外将使芯片设计更加复杂,但最终可能被证明是值得付出的代价。

36. 量子计算将影响经典计算。虽然量子算法可能很难在经典计算机上模拟,但它们仍然是可以模拟的。有些将被证明足够有用(至少在小规模上),要么凭借其本身成为通用工具,要么激发解决旧问题的新方法。

37. 可逆计算模型将比量子计算模型更普遍,甚至可能到随处可见的地步。这部分是因为可逆计算模型是量子计算模型的一个子集,具有更简单的物理约束(因此更容易设计/大规模生产),同时也是因为可逆计算模型理论上可以大大提高能源效率。然而,可逆计算模型确实有其局限性,与它一起用于通用计算的全套工具并不实用。相反,它将作为某些工作负载的加速器形式。

38. 对可逆计算的更深入研究,可能与其他计算领域正在进行的所有革命相结合,最终将进入物理学领域,可能会极大地提高我们对熵等现象的理解(熵与可逆计算模型及其能效效益密切相关)。

39. 经典计算将面临平方立方体定律;表面积比体积缩放更快。核心数量(以及计算能力)随体积缩放,而内存带宽和I/O随表面积缩放。对从外部内存/存储/网络等获取的单个字节执行不到10,000次操作的计算机将很快成为I/O的瓶颈。

当然,热输出也随着表面积的变化而变化,但不管怎样,恒定因素仍然对计算能力远远超过内存带宽的计算机更加友好;这已经是现代硬件面临的现象,未来更奇特的硬件可能会发现比内存I/O更低的效率需要清理计算。

摩尔定律即将走向终结?对未来更广阔世界影响的55个预测!_Datawhale的博客

40. 这样做的一个结果是,具有O(n^2)、O(n^3)和O(k^n)等时间复杂度的超线性算法将变得更有吸引力。许多传统上被认为运行不切实际的算法将被开放。

41. 将开发一系列新的降维形式,重点关注各种高维现象,而不仅仅是局部性。降维算法将与许多其他可视化技术相结合,并成为许多可以组合成可视化的工具之一。

42. 普通程序员将被迫实际学习CPU缓存和类似系统是如何工作的(尽管未来的片上存储系统将与现代芯片上的系统大不相同)。影响代码性能和效率的最大因素之一将是内存中数据的精确几何布局;数据占用实际空间,数据离得越远,访问它所需要的时间和资源就越多。  人工优化这一类代码不太实际,更强大的代码合成和优化工具将填补这一角色。

43. 计算所需频繁输入和输出也将刺激压缩算法的广泛应用。通过将大部分数据压缩在RAM中,您可以在代码中获得显著的性能改进。

44. SAT和SMT求解器将成为非常常见的工具。这些工具对于任何类型的正式代码分析都至关重要,但由于这些问题是NP完全的,因此对于大量领域来说也是非常通用的。 

 SAT,以及整个P vs NP问题,是目前人类最重要的开放数学问题。甚至没有什么能接近。 

我不能说P vs NP问题是否会很快得到解决,但NP完全问题真正奇怪的性质与现代数学已知的几乎所有问题都有极深的联系,而且人们对此知之甚少。由于它们惊人的实用性和广泛的适用性,对这一主题的进一步研究将在未来几十年加速,但也由于未来极度受内存限制的硬件非常适合此类算法的最坏情况指数复杂性。

45. 对P v NP的深入研究将导致对密码学中什么是可能的和什么是不可能的更深入和更清晰的理解。

46. 对P v NP的深入研究将导致对机器学习中什么是可能的,什么是不可能的,以及智能本身的本质有更深刻和更清晰的理解。

47. 现有的SAT求解器比任何理论上的理由都要高效得多。尽管理论上是一个O(2^n)问题,但许多具有数十万甚至数百万参数的现实世界SAT问题是可以实际解决的,而许多只有数百个参数的小得多的问题需要数十亿年才能解决。  然而,目前人们对“现实世界”问题的确切构成知之甚少。在各种神秘但常见的情况下,这种奇怪的更好表现表明,对于我们尚未理解的问题,可能有许多计算捷径。对SAT求解者数学的更深入理解将创造大量不同的新计算技术。

48. SAT求解器的许多奇怪特性似乎强烈暗示,我们目前对计算复杂性的理解存在一些深刻的、根本性的错误。一些深刻的见解可能会动摇这种理解。如果我们最终放弃O(xx)符号来换一个不同的、更强大的计算复杂性模型,我不会感到惊讶。

49. 由于计算上发现化学平衡至少是NP完全的,对SAT求解器的更深入理解可能也将彻底改变我们对生物学和细胞内部计算的理解,我们目前无法在SAT求解器中解释的许多奇怪而强大的计算技术是生物系统的研究的倚天屠龙剑。

50. 所有奇怪的新计算范式都将随着工具开发而创建一个反馈循环;对计算的更深入理解将使新型工具成为可能,而新工具将使新的计算范式变得实用。

51. 机器学习的黑箱终将被打开。创造了巨大的人工智能模型的现代机器学习的极度懒惰,在其对逆向工程微乎其微的努力下,将被视作一个错误。

52. 超优化将成为代码优化的主要形式,这得益于理论CS的进步,它允许对此类搜索空间进行更智能的导航,再加上前面提到的相对于内存的计算能力的丰富,使得指数搜索对程序员来说不那么可怕。

53. 基于代码合成或至少工具辅助微调的软件开发工具将随处可见。代码中由工具生成精确常量块可能会变得易如反掌。

54. 机器学习将使所有非加密数据都容易伪造。更好的软件工具和对P v NP问题的更深入理解将加速这一过程,达到我们目前无法想象的程度。

55. 对强大而危险的机器学习技术的唯一真正防御将是密码学,幸运的是,密码学也将变得更加强大。


干货学习,点赞三连↓