现在市场上有越来越多我们熟悉的人工智能服务,比如小爱同学,天猫精灵,小度。当人类进入人工智能时代,AI服务器想必也会融入到社会行业里的方方面面,那么AI服务器与普通服务器有什么区别呢?为什么AI服务器在人工智能时代能替代大多数的普通服务器呢?
AI服务器定义:
承载智慧计算中AI计算的核心基础设施称为AI服务器。
我们都知道普通的服务器是以CPU为算力的提供者,采用的是串行架构,在逻辑计算、浮点型计算等方面很擅长。因为在进行逻辑判断时需要大量的分支跳转处理,使得CPU的结构复杂,而算力的提升主要依靠堆砌更多的核心数来实现。
但是在大数据、云计算、人工智能及物联网等网络技术的应用,充斥在互联网中的数据呈现几何倍数的增长,这对以CPU为主要算力来源的传统服务提出了严重的考验,并且在目前CPU的制程工艺、单个CPU的核心数已经接近极限,但数据的增加却还在持续,因此必须提升服务器的数据处理能力。因此在这种大环境下,AI服务器应运而生。
现在市面上的AI服务器普遍采用CPU+GPU的形式,因为GPU与CPU不同,采用的是并行计算的模式,擅长梳理密集型的数据运算,如图形渲染、机器学习等。在GPU上,NVIDIA具有明显优势,GPU的单卡核心数能达到近千个,如配置16颗NVIDIA Tesla V100 Tensor Core 32GB GPUs的核心数可过10240个,计算性能高达每秒2千万亿次。且经过市场这些年的发展,也都已经证实CPU+GPU的异构服务器在当前环境下确实能有很大的发展空间。
基于AI服务器的优势,AI服务器在医疗、搜索引擎、游戏、电商、金融、安防等行业有着广泛的应用。
1、医疗影像智能分析场景:通过机器视觉、知识图谱、深度学习等人工智能技术,模拟医疗专家思维,推理诊断,帮助医生定位病情,辅助做出诊断。
2、人脸识别、语音识别、指纹识别场景:通过深度学习、机器学习等技术,可实现图片,视频等图像资料训练。
3、安防监控场景:利用知识图谱技术、深度学习等技术,可以应用到人体分析、图像分析、车辆分析、行为分析等安防场景中。
4、零售预测场景:通过机器学习,基于门店历史销售数据,可以精准地对未来销售进行预测,为经营者提供更准确的决策分析。此外,在零售行业中,常见的还有无人售卖、人脸支付等应用场景。
5、金融服务场景:通过语音、唇形、表情合成技术和深度学习等技术,克隆出与真实面审员一样AI视频面审员,可以准确无误的与客户进行多轮面谈。
除此外,还有微表情识别系统应用场景。
1、从服务器的硬件架构来看,AI服务器是采用异构形式的服务器,在异构方式上可以根据应用的范围采用不同的组合方式,如CPU+GPU、CPU+TPU、CPU+其他的加速卡等。与普通的服务器相比较,在内存、存储、网络方面没有什么差别,主要在是大数据及云计算、人工智能等方面需要更大的内外存,满足各种数据的收集与整理。
2、卡的数量不一致:普通的GPU服务器一般是单卡或者双卡,AI服务器需要承担大量的计算,一般配置四块GPU卡以上,甚至要搭建AI服务器集群。
3、独特设计:AI服务器由于有了多个GPU卡,需要针对性地对于系统结构、散热、拓扑等做专门的设计,才能满足AI服务器长期稳定运行的要求。
TOP