并行计算都是高性能计算,也是AI算力指数级爆发的基础。AI、ML、量子计算、生物计算等前沿技术应用都依赖于并行计算的支持。随着COVID-19疫情的爆发,高性能计算、人工智能等先进计算技术的应用在病毒研究和疫情防控中发挥了重要作用。在近期“新基建”浪潮的助推下,并行计算将在未来几十年真正迎来“黄金时代”。并行计算的起源1946年,世界上第一台通用计算机“ENIAC”在宾夕法尼亚大学诞生。1959年至1964年间设计的计算机通常被称为第二代计算机。大量使用晶体管和印刷电路。计算机继续缩小尺寸并增加运行FORTRAN和COBOL的能力。1964年到1972年的计算机一般被称为第三代计算机。大量使用集成电路,典型型号为IBM360系列。1972年之后的计算机通常被称为第四代计算机。基于大规模集成,后来的VLSI。1976年,第一台商用超级计算机Cray-1问世。集成20万个晶体管,每秒进行1.5亿次浮点运算。进入本世纪,并行计算得到迅速发展。由于单处理器计算速度的不断提高,并行计算机体系结构的成熟,数据传输网络的标准化和传输速率的大幅提高,并行计算机的开发周期逐渐缩短。并行计算擅长对真实复杂的现象进行建模、模拟和理解,可以节省时间和成本,解决更复杂的问题,更好地利用底层硬件的计算能力。我国并行算法的研究是从物理学家开始的,后来有中科院物理研究所的王定生、生物物理所的陈润生、中科大的陈国良、中科院的孙家昌等。软件所与计算所孙宁辉组建研究团队,研究并行算法和并行软件。该组领导了我国并行算法和并行软件的研究,为我国并行计算的发展奠定了基础。几年后,这个不到十人的跨学科团队产生了四位院士。李国杰院士:未来几十年将是并行计算的黄金时代中国工程院院士李国杰表示,未来十年将出现计算机新体系结构“寒武纪”大爆发,计算机学术界和工业界的建筑师将迎来一个新时代。激动人心的时刻。最近的COVID-19疫情给了我们很多启发。疫苗和新型抗病毒药物的开发涉及复杂的数学模型,必须借助使用并行计算的数值方法来解决。并行处理技术将在与病毒的斗争中发挥不可替代的作用。并行计算现在处于一个全新的时代。2017年获得图灵奖的计算机体系结构大师Hennessey和Patterson指出,无论是指令级处理技术还是多核处理技术,通用处理器固有的低效率和终结定律缩放比例和摩尔定律使得处理器架构设计人员和设计人员不太可能在通用处理器上保持显着的性能改进。“计算机体系结构的改进和创新必须与并行算法和并行软件的改进和创新同步进行。改进的程度越高,性能和效率的提升就越大。无论是突破摩尔定律还是vonNeumann的瓶颈,所有的都得跨层做,未来几十年是并行计算的黄金时代!”
