eLLM

eLLM(边缘大语言模型)指部署在边缘设备上的轻量化大语言模型,兼顾高效推理与低延迟响应,适用于本地化、实时性要求高的场景,如智能终端、物联网等。