模版网站搭建做印刷品去哪个网站

模版网站搭建,做印刷品去哪个网站,网站风格设计要素,北京建设局网站首页一、先给一句话结论#xff08;先有整体感#xff09;参数微调#xff08;Fine-tuning#xff09; #xff1a;通过训练#xff0c;让模型整体慢慢学会一类新能力或新风格。模型编辑#xff08;Model Editing#xff09; #xff1a;不重新训练模型#xff0c;只是精…一、先给一句话结论先有整体感参数微调Fine-tuning通过训练让模型整体慢慢学会一类新能力或新风格。模型编辑Model Editing不重新训练模型只是精确地改掉模型里“某一句已经学错或过时的知识”。如果你只记住一句话参数微调 再学习一门课模型编辑 改教科书里的一句话二、为什么会有这两种方法1️⃣ 大模型是怎么“学会东西”的大模型在预训练时看了海量数据用**训练loss 反向传播**的方式把知识“分散地”存进大量参数里结果是能力很强但具体知识并没有明确存在哪一行这带来两个现实问题2️⃣ 现实中的两类修改需求场景 A“我想让模型整体更擅长某类任务”比如更懂医疗文本更像客服语气更擅长写代码 这是分布级变化 适合参数微调场景 B“模型只有某个具体事实是错的”比如某公司 CEO 变了某政策更新了某个人物关系说错了 这是点状知识错误 适合模型编辑三、什么是参数微调Fine-tuning1️⃣ 用一句最通俗的话说参数微调 用新数据再训练模型一段时间它的流程和你直觉中的“训练模型”几乎一样。2️⃣ 参数微调是怎么工作的不讲公式版流程大致是准备一批数据输入 标准答案模型给出预测结果和标准答案做对比算一个“错了多少”的分数loss模型根据这个分数一点点调整参数重复很多次直到整体表现变好关键点❗是“整体慢慢变好”❗追求平均意义上的正确3️⃣ 参数微调一定会改所有参数吗不一定这一点非常重要。参数微调 ≠ 一定全量更新参数。从工程实现上常见三大类1只训练原模型的一部分参数冻结大多数层只训练后几层某些子模块特点改动相对温和但仍然属于“再训练”2不动原模型增加新参数在原始模型基础上加一层神经网络代表方法LoRA / QLoRAAdapter直观理解原模型参数完全冻结旁边加一个“小补丁”训练的只是这个补丁但本质仍然是有训练数据有 loss多步训练所以它们依然是参数微调3只在“输入侧”增加参数加一层神经网络处理input代表方法Prompt TuningPrefix Tuning特点不改模型结构训练的是虚拟 prompt注意力里的偏置本质通过“怎么喂给模型输入”来影响整体行为4️⃣ 参数微调的本质特征总结✅ 一定有 loss✅ 在数据分布上优化✅ 多步训练、追求收敛❌ 不保证只改某一条具体知识四、什么是模型编辑Model Editing1️⃣ 一句话直观理解模型编辑 不重新训练模型只修正它“某个具体问答”的结果2️⃣ 模型编辑解决的是什么问题典型问题形式是“当模型被问到 X 时它以后应该回答 Y而不是原来的 Z。”注意只关心这一条或少数几条输入输出不关心整体分布性能是否提升3️⃣ 模型编辑是怎么做到的直觉版核心目标只有三个这条问答一定要改对Edit Success别影响无关问题Locality改动尽量小Minimal Change所以模型编辑不是在“训练模型”而是在解一个“最小改动、满足约束”的问题4️⃣ 模型编辑有没有 loss有但和微调完全不同。微调loss 用来让模型“整体越来越好”追求收敛模型编辑loss 只是用来判断“这条指定问答对不对”一旦满足就停止不是训练而是一次性修复5️⃣ 模型编辑的三种典型实现思路不深入算法1直接改模型内部参数找到与该知识最相关的层做非常小的数值修改可以理解为“精准地拧了一下某个螺丝”2基于单样本的极少步优化只用一条问答加强“不要影响别的地方”的约束优化 1几步就停3外接补丁 / 记忆 / 路由不直接改主模型遇到特定问题时走“修正通道”更像是“打补丁而不是重编程序”五、为什么模型编辑不能简单看成“一种微调”这是一个非常容易混淆的点。关键区别在于1️⃣ 优化目标不同参数微调优化的是平均表现模型编辑满足的是明确约束2️⃣ 时间尺度不同微调分钟 / 小时模型编辑秒级3️⃣ 可逆性不同微调改了就很难回滚模型编辑通常可以撤销某一次修改六、最终对照总结表维度参数微调模型编辑修改对象行为分布具体知识点是否训练是否或极少步是否追求收敛是否是否用 loss是是但仅作约束影响范围全局局部典型用途新任务 / 新领域修错 / 更新事实七、一句话终极总结参数微调是在“教模型学新东西”模型编辑是在“纠正模型已经学错的某一句话”如果你理解了这一点后面的所有技术差异都会变得非常自然。学习资源推荐如果你想更深入地学习大模型以下是一些非常有价值的学习资源这些资源将帮助你从不同角度学习大模型提升你的实践能力。一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取四、AI大模型商业化落地方案作为普通人入局大模型时代需要持续学习和实践不断提高自己的技能和认知水平同时也需要有责任感和伦理意识为人工智能的健康发展贡献力量。