在人工智能大模型飞速发展的当下,理解其背后的关键技术概念是掌握这一领域的基础。本文将围绕大模型的核心技术要素展开,从模型参数、上下文长度等基础概念,到量化、蒸馏等优化技术,再到MoE、RAG等架构与方法,最后延伸至智能体、具身智能等前沿方向,全方位解读大模型技术体系。

一、模型参数:大模型的“大脑容量”

模型参数是构成大模型神经网络的核心要素,其数量如同人类大脑的神经元数量,直接决定了模型的“认知能力”,通常以十亿(B)为计数单位。一般而言,参数规模越大,模型可存储的知识量越丰富,处理复杂任务(如多轮对话、逻辑推理)的准确率也越高。以DeepSeek R1满血版为例,其参数规模达到671B(即6710亿),强大的参数基础使其具备了出色的综合性能。

然而,参数规模与硬件需求呈正相关。参数量越大,模型运行时所需的显存空间就越多。例如,一个百亿参数的模型在FP32(32位浮点)精度下,仅参数存储就可能占用数百GB的显存。因此,在实际应用中,需结合硬件配置(如GPU显存大小)选择适配的模型规模,避免因显存不足导致模型崩溃或推理速度大幅下降。

从技术本质来看,模型参数是控制数据处理与预测逻辑的内部变量。参数值的精准度直接影响AI输出与现实结果的契合度——参数优化得当,模型能更精准地将输入数据(如文本片段、图像像素)转化为目标输出(如生成文章、识别物体)。在模型训练阶段,算法通过不断调整参数(如神经元连接权重),最小化损失函数值,让模型在训练数据上的误差逐渐降低,最终具备对新数据的准确预测能力。

不同模型参数量(对应常见精度)的显存需求存在显著差异,实际部署时需参考专业的显存需求推荐表,确保硬件资源与模型需求相匹配。

img

二、上下文长度:模型的“信息视野”

上下文长度指大模型在单次处理任务时,能够同时纳入考量的文本范围,是影响模型理解与生成能力的关键指标,尤其在自然语言处理(NLP)领域至关重要。以DeepSeek R1为例,其输入上下文长度达到128K Tokens,这一特性继承自其基础模型V3-Base。按照常见的Token与文字换算比例,128K Tokens大致可覆盖约6.5万汉字的长文本,意味着模型能一次性解析完整的长篇报告、学术论文甚至短篇小说,无需频繁截断文本,大幅提升了长文本处理的连贯性。

不同场景对上下文长度的需求差异明显,具体可分为以下几类:

  • 2K(2048 Tokens):属于基础级长度,适用于日常对话场景。例如,在客服聊天机器人中,2K的上下文长度可支撑5-10轮的普通对话,让机器人准确理解用户的历史提问与语境,避免出现答非所问的情况。
  • 4K(4096 Tokens):为中级长度,主打中等篇幅文档处理。在文档摘要生成任务中,4K长度可覆盖大部分新闻稿、产品说明书(通常字数在2000-3000字),帮助模型完整提取核心信息,生成逻辑清晰的摘要。
  • 8K(8192 Tokens):属于长文本级长度,适合深度分析场景。在学术论文精读中,8K长度能容纳论文的摘要、引言、核心实验章节,让模型梳理论文的论证逻辑、实验设计与结论,为研究者提供精准的内容分析。
  • 32K+ Tokens:为超长篇级长度,可应对书籍级内容处理。在文学作品分析或知识图谱构建中,32K+的上下文长度能让模型读取整本书的部分章节(如一本小说的前10章),捕捉人物关系、情节发展脉络,生成全面的内容总结或知识关联图谱。

img

与上下文长度密切相关的两个概念的是思维链长度和最大输出长度:

  • 思维链长度:部分模型(如DeepSeek)在生成最终答案前,会先输出一段“推理过程文本”(即思维链),通过逐步拆解问题、推导逻辑,提升答案的准确性。DeepSeek的API还开放了deepseek-reasoner思维链内容,支持用户查看、二次开发。思维链长度反映了模型推理的深度——解决复杂数学题时,模型可能需要通过10-20步的思维链(如列方程、代入数据、计算结果)推导答案,长度越长,推理过程越细致,但也会增加计算时间与成本。
  • 最大输出长度:指模型单次生成文本的最大Token限制。以DeepSeek为例,其官网标注支持最大8K输出长度,但受硬件显存与计算效率限制,实际生成8K长文本时,通常需通过“分段生成+内容拼接”的方式完成(如先生成前2K内容,再基于前序内容生成后续部分)。在长篇报告撰写场景中,需根据模型最大输出长度规划生成步骤,确保最终内容的连贯性与完整性。

三、量化:大模型的“瘦身技术”

大模型量化技术是一种核心的模型压缩手段,其核心逻辑是降低参数数值精度——将原本高精度的浮点运算(如FP32、FP16)转换为低精度的整数或定点数(如INT8、INT4),在牺牲微小精度(通常在1%-5%)的前提下,实现模型存储、计算效率的跨越式提升。

量化技术的优势主要体现在三个方面:

  1. 大幅降低存储与显存占用:以FP32(4字节)与INT8(1字节)为例,INT8量化可将模型体积压缩至原有的25%;若采用INT4量化,体积甚至可压缩至原有的12.5%(即8倍压缩)。这一特性让大模型能在资源有限的设备上部署——例如,原本需要24GB显存才能运行的70B参数模型,经INT4量化后,在8GB显存的消费级GPU上即可流畅运行,为手机、嵌入式设备等端侧场景的大模型应用提供了可能。
  2. 显著提升计算速度:低精度运算(如INT8)对硬件算力的需求更低,相同硬件条件下,量化后的模型推理速度可提升3-5倍。在实时问答、图像识别等对响应速度要求高的场景中,量化技术能有效减少用户等待时间,提升使用体验。
  3. 大幅降低能耗:运算精度与能耗呈正相关,精度越低,能耗越少。数据显示,INT4推理的能耗仅为FP32的1/10,非常适合IoT设备(如智能传感器、监控摄像头)等低功耗场景。例如,部署在偏远地区的环境监测设备,采用量化后的模型,可在电池供电下持续运行数月,无需频繁充电。

需要注意的是,不同精度的量化对硬件有特定要求:FP8量化需依赖NVIDIA H系列(如H100)或RTX 40系列GPU的硬件加速支持;INT4量化则需B系列(如B100)或RTX 50系列GPU的适配。实际应用中,需根据硬件配置选择合适的量化精度,避免因硬件不兼容导致量化效果不佳。

四、蒸馏:大模型的“知识传承”

中文里的“蒸馏”本指提纯过程——以酿酒为例,利用酒精(沸点78.5℃)与水(沸点100℃)的沸点差异,通过加热发酵液使酒精汽化,再经冷凝收集高浓度酒精,核心是“在源物质基础上做减法,保留核心成分”。

大模型领域的“蒸馏”技术,却常被误解为“数据删减”,实则不然。其准确含义更接近“知识传承”——如同老师将自身的知识体系、解题思路整理后传授给学生,学生不仅学习具体知识点,更掌握分析问题的方法(即“举一反三”的能力)。大模型蒸馏的本质,是将大规模模型(教师模型)的知识、推理能力迁移到小规模模型(学生模型)中,最终得到“小体量、高性能”的轻量化模型。

以DeepSeek的蒸馏方案为例,其支持将671B参数的R1满血版(教师模型)的能力,蒸馏给任意小模型。常见的R1-Distill-Qwen-7B模型,就是以R1为教师、阿里Qwen-7B为学生——通过R1生成的高质量标注数据(如复杂问题的推理过程、多领域知识问答),对Qwen-7B进行微调,最终让7B参数的学生模型具备接近30B参数模型的推理能力,而体积仅为教师模型的1/95。

蒸馏模型与非蒸馏模型(教师模型)的差异明显:

模型类型优点缺点
蒸馏模型(学生)体积小(易部署)、推理快、成本低(硬件需求低)可能模仿教师模型的回答风格(缺乏个性化)、部分复杂任务(如高阶数学推理)性能略逊
非蒸馏模型(教师)参数量大、知识图谱完整、复杂任务性能强、创造性高运行成本高(显存/算力需求大)、对硬件依赖强、部署门槛高

目前,蒸馏技术已成为大模型工业化应用的核心手段——通过蒸馏,开发者可将大模型部署到端侧设备、中小服务器等场景,大幅降低应用成本,加速大模型从“实验室”走向“产业界”的落地进程。

img

五、Token:大模型的“计价与处理单位”

在大模型领域,Token(令牌)是文本处理的最小单位,也是服务商计费的核心依据——几乎所有大模型的API报价(如DeepSeek、OpenAI)都以“百万Tokens”为单位。

从定义来看,Token可以是单个字符、词语或符号:例如,英文中“apple”是1个Token,“hello world”是2个Token;中文中“你好”是1个Token,“人工智能”是1个Token;数字“2024”、标点“!”也各算1个Token。

为帮助用户估算Token消耗,DeepSeek官方给出了Token与字符的大致换算比例:

  • 1个英文字符 ≈ 0.3个Token(即100个英文字符约消耗30个Token);
  • 1个中文字符 ≈ 0.6个Token(即100个中文字符约消耗60个Token)。

需要注意的是,不同模型的分词算法存在差异,换算比例会有细微波动(通常在5%-10%)。例如,部分模型对中文成语、英文短语的分词更高效,相同文本的Token消耗可能减少10%左右。实际使用中,需以模型返回的真实Token计数为准。

Token的计费逻辑与手机流量包类似:最终扣费金额=Token总消耗量(输入Token+输出Token)×模型单价。例如,若某模型的“百万Token单价”为10元,一次对话中输入消耗500 Token、输出消耗1500 Token,总消耗量为2000 Token,则本次扣费为(2000/1000000)×10=0.02元。DeepSeek等平台的扣费会直接从用户充值余额或赠送余额中扣除,用户可在后台查看详细的Token消耗明细。

img

六、MoE:大模型的“专家协作系统”

MoE(Mixture of Experts,混合专家)架构是一种高效的大模型设计方案,其核心思路是“分工协作”——训练多个专注于不同任务或数据分布的“专家模块”(如专门处理数学推理的专家、专门处理文本生成的专家),再通过“门控机制”(Gate Network)动态选择适配的专家模块处理输入数据,实现“让专业的专家做专业的事”,在保证模型性能的同时,降低计算成本。

以DeepSeek-V3/R1为例,作为国内自研的顶尖MoE模型,其总参数量达671B,但每次推理仅激活37B参数(即约5.5%的参数),既保留了大模型的高性能,又大幅降低了计算负担。MoE架构的核心特点包括:

  • 稀疏激活(Sparse Activation):每次处理数据时,门控机制仅激活与当前任务相关的1-2个专家模块,而非全部专家。例如,处理数学题时,仅激活“数学推理专家”;处理诗歌生成时,仅激活“文本创作专家”。这种机制可减少70%-90%的无效计算,显著提升推理效率。
  • 动态专家分配(Dynamic Routing):门控机制会根据输入数据的特征(如文本关键词、数据类型)实时判断“哪个专家最适合处理该数据”,并将数据分配给对应专家。例如,输入包含“解方程”关键词时,门控机制会将数据分配给“数学推理专家”;输入包含“写工作总结”时,则分配给“公文写作专家”,大幅提升了模型对不同任务的适应性。
  • 高效计算与可扩展性:与传统的Dense模型(全参数参与计算)相比,MoE仅计算部分专家,相同任务下的计算量可减少50%-80%。同时,MoE架构支持灵活扩展专家数量——若需提升模型在医疗领域的性能,只需新增“医疗知识专家”模块,无需重构整个模型,适配不同规模的计算资源与任务需求。

不过,MoE架构也存在短板:

  1. 实现复杂度高:需设计门控机制的决策逻辑、专家模块的协同规则,还要解决“专家负载不均衡”(部分专家频繁被激活,部分专家长期闲置)的问题,开发与优化难度远高于Dense模型。
  2. 存储开销大:虽然仅激活部分专家,但所有专家的参数仍需占用显存/内存。例如,671B参数的MoE模型,即使仅激活37B,仍需存储全部671B参数,对硬件存储的需求较高。
  3. 调度复杂:门控机制的动态分配需精准控制,若分配逻辑不合理,可能导致专家模块切换频繁,反而降低推理速度。

相比之下,传统Dense模型的所有参数均参与计算,无需复杂的门控与专家调度,实现简单,但计算量与存储需求远高于MoE模型——例如,处理相同的文本生成任务,100B参数的Dense模型的计算量是671B参数MoE模型(激活37B)的2-3倍。实际应用中,需根据任务复杂度、硬件资源、开发能力综合选择架构:若追求高性能与高效率,且具备一定开发能力,优先选择MoE;若需求简单、追求开发便捷性,可选择Dense模型。

七、RAG

RAG‌全称是Retrieval-Augmented Generation,中文翻译是检索增强生成,是一种结合信息检索技术与生成式大语言模型(LLM)的架构,通过实时引入外部知识库提升模型在知识密集型任务中表现的技术。

img

核心是检索+生成结合‌将传统信息检索系统(如数据库、知识库)与LLM结合,利用检索到的外部信息辅助生成更准确、时效性更强的文本‌,常见的有通过外挂知识库‌:通过动态接入外部数据源(如企业文档、资料)用于弥补大模型训练数据滞后、领域知识不足等缺陷‌。

典型场景有RAG与Agent结合‌,通过智能体(Agent)实现动态决策,例如自动调用工具链完成复杂任务‌,实现多模态的扩展‌,可以从文本检索向图像、视频等多模态数据延伸,提升应用范围‌。

RAG通过“动态知识注入”机制,成为平衡大模型通用性与领域专业性的主流方案,尤其在需要实时性和高准确率的场景中表现突出。

八、RL

DeepSeek R1使用了强化学习框架(如GRPO)来提升模型在推理任务中的性能。通过强化学习,模型能够在没有监督数据的情况下自我演化,提升推理能力。例如R1通过数千步强化学习,在AIME 2024基准测试中的表现大幅提升,R1的训练过程如下(多环节用到了强化学习):

img

要理解强化学习(RL)的核心逻辑,可从其技术机制、与传统方法的差异及实际应用三方面展开;

1、DeepSeek RL的核心机制是试错学习与动态优化,首先是通过搭建‌奖励系统‌,让模型在试错中自主优化策略。例如,模型在解答数学题时,答案正确则获得正向奖励,错误则调整策略‌,其次是环境交互框架基于强化学习的经典框架,包含‌智能体(Agent)‌、‌环境(Environment)‌、‌动作(Action)‌和‌奖励(Reward)‌四个要素。通过生成不同答案(动作)与环境(题目与答案反馈)交互,最终习得最优解题规则‌,三是自迭代推理能力‌,通过‌自问自答式思考‌模拟人类推理。如处理复杂逻辑题时,模型会尝试多种推理路径,根据反馈调整中间步骤,最终形成通用推理能力‌。

2、与传统的训练方式相比特点如下:

‌对比维度‌‌DeepSeek RL‌传统方法(行为克隆)
‌学习方式‌主动试错,根据结果反馈优化策略依赖标注数据,模仿人类答案(类似背答案)
‌中间过程‌自主调整思考步骤(如先列公式再计算)仅关注输出结果匹配度
‌泛化能力‌通过多任务训练提炼通用规则依赖训练数据覆盖场景
‌典型应用‌数学推理、编程调试、复杂逻辑问题标准化问答、文本生成

3、技术优势是模型无需海量标注数据,通过环境交互即可持续优化策略‌,从单一任务训练中提炼通用规则,适用于跨领域复杂问题‌,模拟人类“先思考后回答”的认知过程,提升答案的可解释性‌。RL通过‌奖励驱动的动态策略优化‌和‌拟人化推理机制‌,突破了传统模型依赖标注数据的局限,可以在复杂任务中展现出更强的自主性与泛化能力‌。

九、智能体

img

按照OpenAI对AI能力等级的划分,可分为五个阶段,具体如下:

Level 1:聊天机器人(Conversational AI)。这是目前人工智能所处的阶段,AI能够以自然语言与人类进行对话交流。例如常见的聊天机器人、虚拟助手等,像ChatGPT、Claude等都属于这一级别。它们可以处理客户服务交互,提供基本的协助,但仅限于基于语言的任务,缺乏复杂的解决问题能力。

Level 2:推理者(Reasoners)。在这一阶段,AI系统能够像拥有博士学位的人类一样解决复杂问题,但无法使用外部工具。这些“推理者”有望在学术和专业领域独立解决复杂问题,这标志着AI认知能力的显著提升。

Level 3:智能体(Agents)。这一阶段的AI系统被称为“智能体”,能够代表用户自主执行任务,持续数天甚至更长时间。这些系统可以在不同领域独立完成多种任务,无需人类持续干预,有望彻底改变商业运营和效率。

Level 4:创新者(Innovators)。这一阶段的AI能够协助发明创造,为科学发现和技术进步提供支持。它不仅能执行任务,还能创造和创新,提出创新的解决方案和想法。

Level 5:组织者(Organizations)。这是AI发展的最终阶段,AI系统能够完成整个组织的工作,管理并执行业务的所有功能,其效率和生产力将超越传统的人类运营模式。

智能体是AI系统实现自主决策的核心载体,其能力边界通过‌环境交互‌、‌多模态融合‌与‌策略优化‌不断拓展,正在重塑自动驾驶、工业自动化等领域的智能化水平‌,2025年普遍被认为是智能体发展的元年。1月份OpenAI宣布上线名为Operator的首款AI智能体,能为用户提供餐饮、活动、配送、购物、旅行相关服务和建议。

很多朋友分不清智能体、AIGC和AGI的关系,AGI是一个很长期且宏观的目标,是一个“超级大脑”,啥都能干,但目前还只是个理想。AIGC 是 AGI 的一部分,它主要关注的是内容创作这个领域,就像是 AGI 的“文艺细胞”。而智能体(Agent)则是 AGI 的另一个方面,它更注重行动,就像是 AGI 的“手脚”。简单来说,AGI 是一个大目标,AIGC 和智能体(Agent)都是朝着这个目标前进的不同方向。‌技术成熟度排序‌:AIGC(已大规模商用)>智能体(部分落地)>AGI(理论探索)‌;

img

十、具身智能

img

“具身智能”英文是Embodied Artificial Intelligence,简称“EAI”,从名字看“具身”是具身智能的必要前提,但“具身”一词并不只是“具有身体”,而是指身体会参与认知,并影响逻辑判断的过程。其概念最早可追溯至1950年,图灵在一篇论文《计算机器与智能》中提出了机器像人一样能和环境交互感知、自主规划、决策和行动,这是AI的终极形态‌。具身智能强调智能体通过身体与环境的动态交互实现自主学习和进化,而不是仅仅依赖大量的数据和算法‌。特点总结如下:

  • 智能并非孤立于大脑,而是身体、环境与感知运动系统协同作用的产物;
  • 认知过程具有身体性,例如人类对抽象概念(如“理解是抓住”)的隐喻本质源于身体经验;
  • 世界模型通过交互构建:智能体通过物理交互(如婴儿触摸物体)逐步形成对世界的理解,而非预先编码的符号规则。

与“具身”相对的概念是“离身”,即认知与身体分离。我们熟悉的ChatGPT就是一个典型的“离身智能”产品,它没有可以感知世界并与之交互的身体,虽然通过采集的海量数据来标记世间万物,却无法理解这些文本、图片在物理交互中真实的意义。

“具身智能”的具体实现需融合多学科技术,主要三层技术架构如下:

img

举例分析:如传统AI的语音助手(如Siri)仅处理语言信号,而具身智能机器人(如优必选Walker S1)可以同步完成视觉识别、路径规划、机械臂抓取等跨模态任务。

img

具身智能更像是一个认知革命,不仅是技术升级,更是一场对智能本质的重新定义。揭示了人类认知的物理根源,并为机器突破“工具性智能”、迈向“适应性智能”提供了新路径。神经科学家安东尼奥·达马西奥曾说过:“我们思考的不仅是大脑,而是整个身体在思考。”这一领域的发展或将重塑人工智能的未来图景,给我们更大的想象和创造空间。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

https://img-blog.csdnimg.cn/img_convert/05840567e2912bcdcdda7b15cba33d93.jpeg

在这里插入图片描述

为什么要学习大模型?

我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着AI技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。

在这里插入图片描述

在这里插入图片描述

大模型入门到实战全套学习大礼包

1、大模型系统化学习路线

作为学习AI大模型技术的新手,方向至关重要。 正确的学习路线可以为你节省时间,少走弯路;方向不对,努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划,带你从零基础入门到精通!

img


2、大模型学习书籍&文档

学习AI大模型离不开书籍文档,我精选了一系列大模型技术的书籍和学习文档(电子版),它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。

在这里插入图片描述

3、AI大模型最新行业报告

2025最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

img

4、大模型项目实战&配套源码

学以致用,在项目实战中检验和巩固你所学到的知识,同时为你找工作就业和职业发展打下坚实的基础。

img

5、大模型大厂面试真题

面试不仅是技术的较量,更需要充分的准备。在你已经掌握了大模型技术之后,就需要开始准备面试,我精心整理了一份大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

img

适用人群

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …
第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …
第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …
第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

https://img-blog.csdnimg.cn/img_convert/05840567e2912bcdcdda7b15cba33d93.jpeg

Logo

聚焦RDK与具身智能,汇集机器人开发教程、开源案例和技术交流

更多推荐