news 2026/8/2 5:34:32

神经网络和深度学习 第二周:神经网络基础(一)回归基础

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
神经网络和深度学习 第二周:神经网络基础(一)回归基础

周的课程以逻辑回归为例详细介绍了神经网络的运行,传播等过程,其中涉及大量机器学习的基础知识和部分数学原理,如没有一定的相关基础,理解会较为困难。

因为,笔记并不直接复述视频原理,而是从基础开始,尽可能地创造一个较为丝滑的理解过程。

1.回归

1.1什么是回归?

首先依旧摆一个定义:

回归(Regression)是统计学和机器学习中的一种方法,用于建立自变量(输入特征)与因变量(输出目标)之间的关系。回归的目的是通过分析数据,找出输入与输出之间的函数关系,并且根据这个关系来预测连续型的输出值,回归模型的主要目标是预测连续变量。

简单来说,回归就是通过数据得到输入输出间的关系,再根据这个关系为输入预测连续型的输出。

之前在第一周中提到的用数据预测房价,就是回归问题。

之所以一直在强调输出的连续型,是为了和另一类问题:分类问题作区分,我们会在之后再展开,总之,回归问题得到的最终结果一定是一个连续的数值,如价格,身高,重量等,而非一类标签,如是或否等。

1.2 怎么回归?

我们现在知道了回归实现的效果,那如何实现回归呢?即输入输出的关系怎么得到的?

简单来说,就是通过输入输出得到拟合函数:

拟合函数可以是线性函数,多项式函数,分段函数等等,我们先忽略语境举一个最简单的例子:

Pasted image 20251005160527

如图所示,假设我们的数据即为图中点,我们观察数据,直接得到拟合关系:

我们通过把输入代入拟合函数,即可预测其他输入的输出:输入5,输出5;输入1.2得到1.2.

1.3 线性回归

线性回归可以说是最简单的回归算法,刚刚的

就是最简单的线性回归,线性回归得到的拟合函数图像一定是一条直线。

线性回归的通式如下:

其中,在数学上,

被称为斜率,

被称为截距。

但在机器学习与神经网络的背景下,二者通常有更切实的称呼。

(权重): 对输入特征的加权系数,表示输入在网络中的重要性。

(偏置):模型的“起始点”或“偏移量,作用是调整每个神经元的输出。

了解了基础的概念后,我们说回刚刚的例子:

假设在该题的语境下,所以的数据都完美满足了

这一拟合函数,实现了绝对精准的预测。

那就是说,我们只用线性回归就实现了对该问题的完美解,但可惜的是,当我们引进现实的情境后,这几乎是不可能做到的。

我们回顾一下最开始的房价预测的例子:

image

当时我们通过给神经网络的隐藏层增加ReLU激活函数来解决了房屋价格和面积的都不可能为负的情况,可现在再观察,我们发现图里的分段线性拟合函数最多只能预测到一个大致的范围。

结合现实我们也知道,影响房屋价格的因素复杂的,我们不能用线性回归来精准的预测房屋价格,这便需要更复杂的回归算法,如其他机器学习算法或者神经网络。

而评价一个算法的好坏,首先便要看该算法在要解决问题的数据上的表现。

这便涉及到了更具体的评价指标,我们在之后遇到后再展开。

通过本篇,可以解了关于回归的一些基本知识,而知道了这些基础后,便可以比较通畅的学习2.1及之后的内容。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/1 19:35:18

Netcode for GameObjects Boss Room 多人RPG战斗(20)

ConcreteActions 1. 动作类型与分类 ConcreteActions目录包含了游戏中所有具体的动作实现,这些动作可以分为以下几类: 动作类型 代表实现 核心特点 物理攻击 MeleeAction 基于物理检测的近战攻击,需要碰撞检测 投射物攻击 LaunchProjectileAction, ChargedLaunchProjectil…

作者头像 李华
网站建设 2026/7/30 18:51:04

企微scrm如何使用群发功能?

企微SCRM群发功能使用指南企微SCRM系统提供了强大的群发功能,可以帮助企业高效地管理和维护客户关系。以下是基于给定搜索结果的详细使用指南:1. 群发功能概述企微SCRM系统的群发功能允许企业向客户群发送统一的消息,这可以是产品更新、促销活…

作者头像 李华
网站建设 2026/8/1 8:39:37

Deepseek 持续迭代的模型

Deepseek 能在推理、编码、多语言处理等场景表现突出,核心源于其TransformerMoE 混合架构的创新设计,以及持续迭代的模型优化策略。​ 基础架构:TransformerMoE 的协同优势​ Transformer 架构:作为自然语言处理的基础框架&#x…

作者头像 李华
网站建设 2026/8/2 6:24:44

基于51单片机的智能锁设计与实现

基于51单片机的智能锁设计与实现 第一章 绪论 在智能家居与安防技术融合发展的背景下,传统机械锁存在钥匙易丢失、防盗性能弱、无法远程监控等弊端,难以满足现代家庭与办公场景的安全需求。51单片机凭借编程简洁、接口丰富、性价比突出的优势&#xff0c…

作者头像 李华
网站建设 2026/8/1 11:13:33

基于51单片机指纹密码锁系统

基于51单片机的指纹密码锁系统设计 第一章 绪论 在智能家居与安防需求升级的背景下,单一密码锁存在密码易泄露、遗忘的问题,纯指纹锁则可能因指纹磨损、潮湿导致识别失灵,传统机械锁的防盗短板更显突出。51单片机凭借编程简洁、接口兼容性强、…

作者头像 李华
网站建设 2026/7/31 5:43:55

西门子1500PLC在物流分拣线中的实践应用

西门子1500PLC某大型物流中心分拣线程序案例 由18个远程IO模块和39个ST40CPU组态,多种线体分拣程序,使用大华扫码枪扫码上传,程序采用SCL进行编程,程序注释齐全,逻辑清晰,可参考性较好。 V15版本打开 包含…

作者头像 李华