欢迎来到阿里云大模型ACP高级工程师认证课程，这是阿里云大模型认证的进阶篇。在开始课程之前，先来了解阿里云大模型认证的体系架构，方便你选择适合自己定位的课程。 阿里云大模型认证体系架构：
如果你尚不具备编程基础，或者想从零开始了解大模型，请跳转:point_right:阿里云大模型ACA工程师认证课程
- [2025.04.02] v1.2.5 完善模型部署资源的选型指引
- [2025.03.25] v1.2.4 增加 Reasoning Model 的使用技巧
- [2025.03.20] v1.2.3 优化实践环境的安装方法
- [2024.10.14] v1.0.0 课程发布
了解课程定位会帮助你更好地规划学习路径，确保课程内容与个人目标相匹配，从而提升学习效率和成果。通过学习阿里云大模型高级工程师ACP认证课程，你将
- 掌握以下知识与技能：
- 大模型提示词技巧
- 检索增强和微调的原理和流程
- LangChain、Llama-Index和Dify等大模型开发组件的使用方法
- 工程化评测的概念与方法
- 大模型的规范和安全性
- 有能力完成以下任务：
- 使用阿里云百炼平台构建大模型应用(开发、测评、部署、发布)
- 使用提示词策略、检索增强、微调技术优化大模型回答质量
- 使用Multi-Agent进行文本、图像、视频等多模态内容生产
- 能够针对复杂业务场景设计并实施大模型驱动的解决方案
- 胜任以下岗位：
- 大模型解决方案高级工程师
- 大模型应用开发高级工程师
在阿里云大模型ACP认证中，课程整体将会以项目式的结构呈现。以项目式的结构设计课程可以帮助学员掌握课程所需的核心概念和技能，并且应用这些知识和技能解决实际问题。 在阿里云大模型ACP认证课程中，你将作为一位教育内容开发公司的员工，构建一个基于大模型的答疑机器人，从而解决新员工入职频繁答疑的问题；随后在公司需要教育课程时，你会利用大模型生成多种形式的教学内容，帮助公司完成业务目标。 通过这两个项目的练习，希望你可以思考如何将大模型的能力带入到不同的行业中，最终可以面向不同的业务场景设计并实施大模型驱动的解决方案。
<style> table { width: 80%; margin: 20px; /* Center the table */ border-collapse: collapse; /* Collapse borders for a cleaner look */ font-family: sans-serif; } th, td { padding: 10px; text-align: left; border: 1px solid #ddd; /* Light gray border */ } th { background-color: #f2f2f2; /* Light gray background for header */ font-weight: bold; } tr:nth-child(even) { /* Zebra striping */ background-color: #f9f9f9; } tr:hover { /* Highlight row on hover */ background-color: #e0f2ff; /* Light blue */ } </style>| 章序号 | 章节名称 | 课程序号 | 课程链接 |
| 1 | Before start：环境准备 | 1.0 | 计算环境准备 |
| 2 | 借助大模型构建答疑机器人 | 2.0 | 项目背景 |
| 2.1 | 开始构建新人答疑机器人 | ||
| 2.2 | 优化提示词改善答疑机器人回答质量 | ||
| 2.3 | 自动化评测答疑机器人的表现 | ||
| 2.4 | 优化RAG应用提升问答准确度 | ||
| 2.5 | 用插件扩展答疑机器人的能力边界 | ||
| 2.6 | 大模型RAG内容安全合规检查 | ||
| 2.7 | 通过微调提升模型的准确度与效率 | ||
| 2.8 | 部署模型到生产环境中 | ||
| 3 | 总结与展望 | 3.0 | 总结与展望 |
带着目的学习可以提升学习效率。在开始课程之前，请了解大模型ACP认证的考试大纲，将更有利于你的课程学习。
| 考核知识点 | 试题比例 |
| 大模型应用开发 | 17% |
| 大模型提示词工程 | 14% |
| 大模型检索增强 | 19% |
| 大模型微调 | 17% |
| 多Agent及多模态应用 | 16% |
| 生产环境应用实践 | 17% |
| 主要章节 | 主要内容 | 考察知识点 |
| 大模型应用开发 | • 通过OpenAI API调用大模型 • 了解大模型的工作原理 |
• 基本API参数如model、temperature、top_p等等 • 批量生成与流式生成 • 理解消息与对话历史 |
| 大模型提示词工程 | 构建有效的提示词 | • 提示词框架如提示词要素、提示词分隔符、提示词模板 • 理解系统角色提示词的作用 |
| 利用大模型处理各类任务 | • 理解大模型的适用场景 • 利用大模型开发应用（如批量对员工咨询做意图分类、用大模型做文档审阅、实现针对问题的自动文档修订） |
|
| 大模型检索增强 | 通过LlamaIndex构建RAG应用的基本使用方法 | • 理解RAG的核心要素，如文件解析、文本切片、段落召回、段落重排序。 • 理解对RAG做召回优化如句子窗口检索、自动合并检索等等。 |
| 持续优化检索增强能力 | • 理解更贴近实战的RAG优化方法如优化文本解析、标题改写优化、表格内容增强、文本分割方法对比等等 | |
| 对检索增强的能力做自动化评测 | • 了解RAGAS指标体系 • 懂得RAG系统的评测方法。 |
|
| 大模型的微调 | 微调的概念与要求 | • 微调的作用、前提、基本步骤、常用算法 |
| 微调的实验与评测 | • 微调数据集构建、微调参数介绍、微调模型评测 | |
| 多Agent及多模态应用 | 基于百炼Assistant API构建智能体 | • 理解智能体运行机制 • 掌握用生成多模态内容、构建个性化语音助手等能力 |
| 构建更复杂的AI应用 | • 动手实践阿里发布的AI技术解决方案系列，体验多模态交互技术。 • 了解AI在医疗、教育、娱乐等行业的实际应用。 |
|
| 生产环境应用实践 | • 在云上部署微调模型的基本方案 • 在云服务如（ECS、FC、PAI）中部署模型 • 在百炼上部署模型 |
• 掌握如何使用vLLM进行大模型的部署操作 • 了解如何利用云服务如函数计算（FC）实现AI助手的快速发布 |
| 大模型应用发布至生产环境的关键要素 | • 了解如何平衡大模型应用的性能和运行成本 • 了解如何提升大模型应用的稳定性 • 了解如何保障大模型应用安全合规 |
本考纲旨在为考生提供考试内容的普遍方向，考试范围不仅限于文中提及的部分，可能还包括其他相关未列明的内容。
本教程假设你已经初步了解并使用过 python、git，因此不会涉及如何安装 python、pip、git 等基础工具。你可以通过脚本“自动安装”或者“手动下载代码”在你的系统上安装课程文件。
如果你对Linux环境熟悉，你可以体验使用脚本自动完成课程文件下载和依赖项安装。
点击下载aliyun_llm_acp_install脚本， 在 DSW 的 Linux 环境，或启动 MAC 的命令行界面，输入如下命令，即可完成项目安装。
/bin/bash aliyun_llm_acp_install.sh
顺利执行上述命令后，你可以使用你的百炼API-KEY，开始你的学习。
本教程github地址如下：
git clone https://github.com/AlibabaCloudDocs/aliyun_acp_learning.git
cd aliyun_acp_learning
pip install -r requirements.txt
如果遇到网络问题，GitHub无法使用，可以选择从atomgit来获取代码库
git clone https://atomgit.com/alibabaclouddocs/aliyun_acp_learning.git
cd aliyun_acp_learning
pip install -r requirements.txt
如果你在学习过程中遇到任何问题，欢迎你参与问卷_____________反馈学习体验和课程评价。 你的批评和鼓励都是我们前进的动力！