端侧大模型

实训台架与科研课程规划

实训台架概览

名称：端侧大模型实训台架

核心亮点：

• 端侧大模型技术：国内领先，自研能力强，提供全面解决方案。
• 演示与资料：包含代码示例、演示视频、PPT讲解等丰富教学资源。

技术特色：

• 端侧大模型（Edge-LLM）：结合自研技术，实现高效能、低延迟的端侧智能应用。
• 高通平台支持：专注于高通平台，提供从模型开发到部署的完整流程支持。

科研课程规划

一、《端侧大模型Edge-LLM的发展及其在汽车行业的创新应用》

• 课程内容：
  • 概述Edge-LLM的基本概念、技术原理及发展历程。
  • 分析Edge-LLM在汽车行业的应用场景，如自动驾驶、智能座舱等。
  • 探讨Edge-LLM如何推动汽车行业智能化转型，提升用户体验。

二、《高通平台下端侧大模型的技术与模型开发实战》

• 课程内容：
  • 深入讲解高通平台的QNN工具链，包括模型量化、编译等关键技术。
  • 展示后端（backend）优化策略，提升模型在端侧的运行效率。
  • 详细介绍模型开发的完整流程，从模型设计、训练到部署的每一步都进行实操演示。
  • 通过案例分析，让学生深入理解端侧大模型在高通平台上的实现与优化。

通过这两门课程的系统学习，学生将全面掌握端侧大模型Edge-LLM的发展动态及其在汽车行业的应用前景，同时熟悉高通平台下端侧大模型的技术与模型开发流程，为未来的科研与职业发展奠定坚实基础。

参数资料:

端侧大模型