年轻人起来冲

深度学习的损失函数

发表于 2023-10-30 分类于 2-深度学习， A-基础知识本文字数： 28k 阅读时长 ≈ 25 分钟

本文讲解神经网络使用的损失，用于衡量模型输出与标签值的差异，尤其需要把握的是不同模型输出使用不同的激活函数，然后使用不同损失函数去计算

发表于 2023-10-30 分类于 2-深度学习， A-基础知识本文字数： 2.1k 阅读时长 ≈ 2 分钟

本文介绍数据增强的基础概念，并对对复杂的混类数据增强作了原理介绍

发表于 2023-10-30 分类于 2-深度学习， A-基础知识本文字数： 1.5k 阅读时长 ≈ 1 分钟

本文介绍迁移学习的基本概念，迁移时需要关注从源域拿来什么“知识”，以使得目标域不是从0开始学习

发表于 2023-10-30 分类于 2-深度学习， A-基础知识本文字数： 14k 阅读时长 ≈ 13 分钟

本文介绍神经网络的训练关键设置，包括batchsize、初始化和学习率，尤其需要把握网络初始方法，不正确的初始化甚至导致模型无法收敛

发表于 2023-10-30 分类于 2-深度学习， A-基础知识本文字数： 11k 阅读时长 ≈ 10 分钟

在神经网络中引入激活函数，使得神经网络具有非线性的表达能力，通常使用的激活函数有relu、sigmoid、softmax，也存在很多变种，把握他们区别即可，同时还要掌握饱和、不饱和激活函数的定义、作用

发表于 2023-10-30 分类于 2-深度学习， A-基础知识本文字数： 10k 阅读时长 ≈ 9 分钟

本文介绍神经网络中规范化操作，其作用是约束网络层的输出，使得网络更加容易收敛，由此延伸出多种规范化的方法，包括：LN、IN、GN、PN，还要重点把握BN训练时、推理时的操作

发表于 2023-10-30 分类于 2-深度学习， A-基础知识本文字数： 6.2k 阅读时长 ≈ 6 分钟

神经网络常用的池化操作，没有可学习参数，主要用于提取特征，降低特征数量

发表于 2023-10-27 更新于 2023-10-30 分类于 2-深度学习， A-基础知识本文字数： 8.6k 阅读时长 ≈ 8 分钟

本文介绍 RNN，进而介绍 LSTM、GRU，RNN 是在 ANN 的基础上，加入了隐藏状态，LSTM 为解决长程依赖的问题，甚至提出遗忘门的概念

发表于 2023-10-27 更新于 2023-10-30 分类于 2-深度学习， A-基础知识本文字数： 13k 阅读时长 ≈ 12 分钟

本文介绍 CNN 的基础原理，由此发展出多种概念，包括：1 x 1 卷积、分组卷积、空洞卷积、深度可分离卷积、分解卷积、反卷积、形变卷积等

发表于 2023-10-25 分类于 0-数据基础， A-概率论本文字数： 3.3k 阅读时长 ≈ 3 分钟

本文主要通过假设，去检验样本是否符合某个分布