梅州建站塔山双喜报价表

梅州建站塔山双喜,报价表,一个网站好不好,wordpress 书签第四章#xff1a;第三次AI浪潮#xff08;2000s-现在#xff09; 4.1 2006年#xff1a;深度学习复兴 关键人物#xff1a;Geoffrey Hinton 2006年#xff0c;Hinton等人发表了关于深度信念网络#xff08;DBN#xff09;的论文#xff0c;标志着深度学习的复兴。 核…第四章第三次AI浪潮2000s-现在4.1 2006年深度学习复兴关键人物Geoffrey Hinton2006年Hinton等人发表了关于深度信念网络DBN的论文标志着深度学习的复兴。核心突破逐层预训练使用无监督的逐层预训练初始化深度网络解决了深度网络难以训练的问题深度信念网络DBN由多个受限玻尔兹曼机RBM堆叠而成每层独立训练然后微调整个网络历史意义证明了深度网络的有效性为后来的深度学习发展奠定了基础虽然预训练方法后来被更好的初始化方法替代但这次突破开启了深度学习的新时代注意DBN的预训练方法后来被更好的方法如Xavier初始化、He初始化替代但这次突破证明了深度学习的潜力。历史意义这开启了深度学习的新时代虽然当时还没有引起广泛关注。4.2 2012年ImageNet竞赛的突破背景ImageNet是一个包含数百万张图像的数据集每年举办图像分类竞赛。2012年的突破AlexNet由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton开发在ImageNet竞赛中取得了突破性成果Top-5错误率从约26%降到15.3%相比前一年的最佳结果Top-1错误率约37.5%相比前一年的约45%使用了GPU加速训练2块NVIDIA GTX 580证明了深度学习的威力开启了深度学习时代技术突破的意义这是深度学习首次在大型图像分类任务上取得显著优势证明了深度神经网络可以处理大规模真实世界数据激发了整个计算机视觉领域的深度学习研究热潮影响深度学习在计算机视觉领域爆发各大科技公司开始大力投资AI开启了深度学习的新时代技术细节使用ReLU激活函数Dropout防止过拟合数据增强GPU并行计算4.3 2016年AlphaGo的胜利历史时刻2016年3月DeepMind开发的AlphaGo以4:1击败世界围棋冠军李世石。为什么重要围棋的复杂性可能的棋局数10^170比宇宙中的原子数还多无法用暴力搜索需要直觉和策略技术突破结合了深度学习和强化学习使用蒙特卡洛树搜索自我对弈学习象征意义AI在复杂策略游戏中超越人类证明了AI的潜力引发了全球对AI的关注后续发展AlphaGo Master2017年在线对弈平台60连胜击败所有人类顶尖棋手AlphaGo Zero2017年10月不需要人类棋谱完全通过自我对弈学习3天达到AlphaGo水平21天达到AlphaGo Master水平40天超越所有版本AlphaZero2017年12月可以学习多种棋类游戏围棋、国际象棋、将棋无需领域知识仅通过规则学习AlphaStar2019年在《星际争霸2》中达到职业玩家水平展示了AI在复杂实时策略游戏中的能力MuZero2019年不需要游戏规则仅通过观察学习展示了更强的通用性4.4 2017年Transformer架构论文《Attention is All You Need》2017年6月Google Brain和Google Research作者Ashish Vaswani, Noam Shazeer, Niki Parmar等核心创新自注意力机制Self-Attention让模型直接关注输入序列中任意位置的信息无需像RNN那样顺序处理可以并行计算解决了RNN的长距离依赖问题并行计算优势RNN需要顺序计算Transformer可以并行计算所有位置训练速度大幅提升可扩展性可以处理更长的序列为后来处理超长文本奠定了基础影响BERT2018年使用Transformer编码器在多项NLP任务上取得突破GPT系列2018-2024年使用Transformer解码器开启了大语言模型时代大语言模型的基础几乎所有现代大语言模型都基于Transformer架构多模态扩展Vision TransformerViT、多模态Transformer等历史意义Transformer架构是AI历史上最重要的架构之一它不仅是NLP的基础也影响了计算机视觉、语音识别等多个领域。4.5 2022-2023年大语言模型爆发ChatGPT的发布2022年11月30日OpenAI发布ChatGPT基于GPT-3.5引发了全球AI应用热潮。发布后的影响用户增长发布后5天内用户数突破100万2个月内突破1亿行业震动各大科技公司加速大模型研发应用爆发AI应用从实验室走向日常生活为什么ChatGPT如此成功对话能力能够进行自然、流畅的对话通用能力可以回答各种问题、写代码、翻译等易用性普通用户可以直接使用媒体关注引发了大量媒体报道和讨论国内大模型发展文心一言百度2023年3月16日发布通义千问阿里巴巴2023年4月7日发布ChatGLM智谱AI开源对话模型2023年3月发布百川智能开源大模型系列2023年成立MiniMax多模态大模型2021年成立月之暗面Kimi2023年成立专注长文本处理零一万物Yi2023年成立开源大模型发展特点国内大模型在2023年集中爆发开源与闭源并存各有优势在中文理解和生成方面表现突出4.6 2023-2024年DeepSeek的崛起DeepSeek的成立DeepSeek深度求索成立于2023年专注于开发开源大模型。公司由前字节跳动AI Lab成员创立致力于推动开源AI的发展。重要时间节点2023年公司成立2024年1月发布DeepSeek-Coder代码能力突出2024年发布DeepSeek-V2、DeepSeek-R1等模型核心特点开源策略模型权重开源代码开源技术细节公开技术突破DeepSeek-Coder在代码生成和理解任务上表现突出在多个代码基准测试中达到或超越GPT-4水平DeepSeek-V2采用MoE专家混合架构在保持高性能的同时降低计算成本DeepSeek-R1在数学、编程、推理等任务上达到国际先进水平成本优势相比闭源模型提供更具竞争力的API价格全球影响成为全球现象级开源大模型推动了开源AI的发展降低了AI应用的门槛2024-2025年的发展政府应用多地政府部门开始接入DeepSeek等大模型用于政务服务企业落地企业应用广泛落地从客服到代码生成技术讨论AI进入通用人工智能AGI的讨论但AGI仍处于早期阶段开源生态开源大模型生态快速发展降低了AI应用门槛4.7 当前AI发展的特点1. 规模越来越大模型参数量从百万级到千亿级训练数据从GB级到TB级计算资源需要大量GPU集群2. 能力越来越强多模态文本、图像、语音通用能力一个模型处理多种任务涌现能力模型规模达到一定程度后出现新能力3. 应用越来越广教育个性化学习、作业批改医疗辅助诊断、药物发现金融风险评估、智能投顾交通自动驾驶、智能调度4. 开源与闭源并存开源DeepSeek、LLaMA、Mistral等闭源GPT-4、Claude等各有优势共同推动发展