山东大学智能创新研究院与算能团队密切配合,在戴鸿君教授的带领下协力攻关,2023年6月9日,成功在SG2042 高性能RISC-V CPU的服务器上驱动企业级TPU BM1684X,并成功运行开源的AI图像生成模型StableDiffusion。
TPU是一种针对人工智能应用而优化的硬件加速器,具备高度并行化的计算能力,可以显著提升AI模型的推理速度和效率。然而,由于RISC-V是一种开源指令集架构,与主流的商用服务器平台相比,其生态系统和软硬件兼容性方面仍存在巨大的挑战。山东大学智能创新研究院的研究团队在克服了Linux内核升级冲突、驱动版本冲突、基础库缺乏等挑战,成功地将TPU驱动移植到RISC-V服务器平台。
在RISC-V平台使用TPU 1684X运行AI StableDiffusion模型的效果
该成果标志着RISC-V服务器平台上的高性能AI应用开辟了新途径,使基于RISC-V平台的AI系统能够更好的满足不同领域的快速、高效推理的需求,促进RISC-V技术的发展和人工智能技术的应用。