搭建一个算力3x10^12次方算力服务器，带100TB磁盘阵列，应该怎么搭建硬件和软件环境？

不知道你说的算力是什么意思，每秒浮点运算次数？
那么3x10^12次方=3tflops，大概相当于一块GTX1063显示卡 (4Tflops)的性能。
或者相当于AMD Ryzen Threadripper 3990X的性能（2.6Tflops sse/5.2Tflops avx）。
可见在运算方面，这并不是什么很高的要求。特别是采用gpu的方案，300块钱买个GP106的矿卡就满足需要了，就算用cpu，也就是两万块钱。

但是100TB磁盘阵列，不考虑特别高端的型号，单块硬盘用 12T~16T，需要8块，如果要冗余需要10块。单块5000块钱，这一共就要5万以上。

可是你为什么不用磁带呢，30TB的磁带才1000多块钱，4个就能满足你的要求了。

软件方面，Windows 10/Windows Server 2019/Ubuntu Server 18.04/20.04/CentOS都可以。