人工智能芯片的两个主要应用环节

人工智能芯片的两个主要应用环节2 major application scenarios of artificial intelligence

从应用场景来看，人工智能芯片主要应用在训练(training)和推理(inference)两个环节。训练环节的作用是指利用海量数据，选择合适的训练方法，训练出一个人工智能模型。训练环节最关心的指标是速度快。人工智能巨头都建立了庞大的GPU集群，以最快速度处理海量数据训练、验证模型的有效性。
而在线推理环节也就是人工智能模型的实际应用环节，是指利用训练出来的模型来在线响应用户的需求。推理环节又分为两个场景，一个是在云端数据中心响应用户需求，一个是在前端智能设备响应用户需求。
在云端数据中心，公有云服务厂商纷纷部署高性能云计算服务器，应用于视频编解码、深度学习、科学计算等多种场景。而在前端智能设备，受模型算法以及计算能力的限制，目前应用还不多。但是基于实时性及隐私安全要求，很多应用都会在前端部署，如无人驾驶和智能服务机器人等。在无人驾驶中，无人驾驶汽车需要实时处理来自激光雷达、摄像头等多路传感器传输的海量数据并作出实时反映。在智能家居中，未来包括智能服务机器人在内的智能家居设备都需要具备实时环境感知能力及语音语义理解能力等。