本身半导体的发展,让我们可以在很小的面积集成更多的单元,所以我们整个芯片硬件的要求、宗旨,就是能够在最小的面积里面放更多的电路,使得软件能在每一个指定周期实现电路的最高利用率。快速地迭代产品,然后以最高的效率使芯片上所有的电路都起作用,发挥它计算和数据处理的能力。
端侧AI的具体应用场景以及企业努力的方向
随着深层次AI的不断加强,模型的能力也越来越强。模型的轻量化发展能够产生更少的参数,不断加持AIoT设备,同时也很可能会有新的产品形态出现,这些都值得密切的关注。
端侧设备、智能家居等已经在推进端侧AI的部署。AR、VR、元宇宙的概念大概四五年前就已经出现,苹果等厂家在开发推进过程中,致力于凝练低功耗的同时更好地呈现显示效果,这就需要它不断提高AI算力的支撑。
比如监控领域,对于行业来说,夜视是一个很大的挑战。同时由于它定位的要求,还需要AI赋能虹膜识别、人脸识别等相关领域。以前传统的监控摄像头,如果有10%的设备支持AI人脸识别,就已经算是不错的。但是AI发展到今时今日,监控摄像头具备AI的功能是必选项。所以我们可以预测在未来的三五年,这些端侧设备能够有更好的语义理解,支持大模型作为我们贴身的助手。目前AI手机、AI PC的出现,都是在压缩、小型化大模型的路上努力,最终达到能够在端侧设备进行部署,具备技术能力、功能。
对于企业而言,端侧要部署到云侧需要从以下几点努力:
1、架构上的互动
如果云侧的指令级,跟端侧指令级是一致的,在同一个架构下去开发应用,那么云端的软件站和整个的服务方案可以无缝迁移到端侧的部分。云侧跟端侧之间本身在在软件应用开发上是有一致性和兼容性的,这就可以带来大量的成本和人力的节约。
2、软件定义硬件
开发模型之后可以通过稳定的技术在端侧部署,软件定义硬件的能力就出现了。不管是什么样的硬件平台,软件模型尤其大模型更新,就可以适配不同的场景。比如智慧农业,大模型应该可以做到今天监测这些水果,明天去观察稻谷麦香,或者又去到一个存储仓库、其他各个需要不同能力的环节去应用。通过模型的更新,一次性地投入硬件,然后产生各种各样的应用效果。
3、获取数据
要让端侧设备变得更加智慧的话,需要不断收集互联网数据。每个应用场景下都会产生大量的数据,互联网端侧设备需要去感知物理世界,获取、整理,再从中提取到最有效的数据。如果每次都传输原始数据,涉及到的数据量就会非常庞大,通过端侧的提炼抓取,再去反馈给云端,在云端进行训练,就可以使模型的组合更加智慧或全面,进一步再反馈给端侧。
端侧AI除了发展到如今的简单应用,大模型通用性的职能以外,还要在软件和生态上相互配合,和整个具体的场景相关联,为行业提供一个指导方案,从而在端侧或者垂直领域能够发挥更重大的作用。