简介这份PyTorch学习课件以PPT形式呈现面向深度学习入门者与希望系统了解PyTorch框架的读者。课件内容从人工智能与神经网络的基本概念展开依次讲解深度学习原理、Anaconda与PyCharm环境配置、张量基础以及FCNN、CNN、RNN、注意力机制等常见网络结构。关于PyTorch框架重点演示了定义模型类、配置网络层和编写forward前向传播的完整流程并配有Hello World示例方便零基础学习者对照操作。资源包共包含1个PPTX文件大小仅1.17MB内容精炼可作为课堂讲义或自学预习材料使用。目前已有2991人学习过该资源适合希望快速入门PyTorch、理解核心概念并上手实践的读者。1. 搜“pytorch学习课件”的人真正缺的是能跑的实验搜过“pytorch学习课件”的人大多下载过一堆 PDF 和 PPT然后在收藏夹里堆到吃灰。真正动手写代码时卡住你的从来不是某个公式没看懂而是报错看不懂、维度对不上、显卡驱动不对劲。课件给你的是知识图谱没人替你处理训练程序的运行问题。这篇笔记换个角度不整理课件目录而是把 PyTorch 入门拆成环境、数据、模型、训练四条线每条线给你能直接跑起来的最小代码和参数解释再附上我在训练里踩过的高频坑。适合三类人刚交完机器学习理论课想动手的学生、第一次从别的框架切换过来的开发者以及准备拿 PyTorch 做实验但一直不敢开始的初学者。反直觉结论写在前面学 PyTorch 最快的方式不是把课件看完而是把报错读顺。2. 环境先于课件conda 虚拟环境与第一个张量测试我看过不少人的第一个 PyTorch 程序是从课件里复制粘贴的结果没跑通因为环境没先解决。课件往往默认你已经有一台能用的机器不做这个假设后面全是空谈。所以真正翻开课件讲张量、讲自动求导之前我会先花十分钟把环境装到“敢随便删、敢随便重建”的状态。2.1 为什么课件里不会帮你解决环境断层我一般会建议用 conda 单独建一个虚拟环境而不是把包直接装进系统 Python。原因不是系统 Python 不能用而是你后面会不停地装各种依赖某天装了一个和 PyTorch 冲突的包系统环境就废了。虚拟环境的好处是给你留了后悔药环境坏了直接删掉重建不碰系统里其他项目。conda create -n pytorch-learn python3.9 -y conda activate pytorch-learn python --version pip --version pip install torch torchvisionpython3.9是我目前的习惯不是必须。版本号选一个相对成熟的即可没必要追最新版很多依赖库对太新的 Python 版本支持会慢半拍。conda create -n pytorch-learn里的名字可以随便改我习惯用项目名方便之后一眼认出。后面两行是确认当前环境里用的到底是哪个 Python 和 pip这一步能避免很多“明明装了却找不到包”的玄学问题。装完以后别急着关终端先验证一下安装位置和版本。常见做法是打印包路径确认你的torch确实来自刚刚激活的虚拟环境而不是系统里某个残留。这一步不写进课件但能帮你省下一个晚上的排查时间。2.2 最小张量测试先把 dtype、shape、device 三个概念跑一遍课件里画张量永远是对的你手里的张量永远是 shape 不对的。所以我建议的下一步不是去看模型代码而是写一个不到十行的张量测试把 dtype、shape、device 三个概念亲手过一遍。import torch x torch.tensor([[1.0, 2.0], [3.0, 4.0]]) print(x.dtype) # torch.float32 print(x.shape) # torch.Size([2, 2]) print(x.device) # cpu on cpu print(torch.cuda.is_available()) if torch.cuda.is_available(): x x.to(cuda) print(x.device)dtype决定数据在内存里怎么存默认是float32课件里不会强调它但真实训练中凡是报“expected scalar type Float but found Double”的错基本都是你给了一个float64的张量。shape是报错重灾区几乎所有维度不匹配的报错都能通过打印 shape 快速定位。device更是关键CPU 上的张量和 GPU 上的张量不能直接做运算这个错误在入门前两周会见很多次。再补一个随机数种子的习惯。你的模型一旦初始化随机种子不同结果就不同。为了让实验“能复现”我建议在脚本开头固定它。torch.manual_seed(0) y torch.randn(3, 4) print(y)固定了种子别人才有机会复现你的结果你自己调参时也能确定改动来自参数而不是随机波动。这一步做完环境才算真正立住了。接下来进入数据部分这里才是新手和熟手拉开差距的地方。3. 数据管道是第一个分水岭从自定义 Dataset 到 DataLoader大部分人看课件看到数据读取就会跳过因为课件用的都是内置数据集一行datasets.XXX就完事。真实项目里你需要处理自己的图片、自己的 CSV这时候数据管道的设计能力直接决定训练到底能不能跑起来。我见过最典型的翻车是把图片读取写在训练循环里每个 batch 都重新读一次磁盘训练速度慢十倍。数据管道这件事值得单独拿出来讲清楚。3.1 自定义 Dataset三步补齐__init__、__len__、__getitem__PyTorch 的Dataset不是一个需要实现复杂逻辑的基类它只要求你实现三个方法__init__负责记录路径和标签__len__返回样本总数__getitem__根据索引返回一个样本。最常见做法是文件夹里放一批图片配一个 CSV 文件记录每张图的名字和标签。import os from PIL import Image from torch.utils.data import Dataset class MyDataset(Dataset): def __init__(self, img_dir, label_file, transformNone): self.img_dir img_dir self.transform transform self.samples [] with open(label_file, r, encodingutf-8) as f: for line in f: img_name, label line.strip().split(,) self.samples.append((img_name, int(label))) def __len__(self): return len(self.samples) def __getitem__(self, index): img_name, label self.samples[index] img_path os.path.join(self.img_dir, img_name) image Image.open(img_path).convert(RGB) if self.transform is not None: image self.transform(image) return image, label__init__里的加载逻辑尽量只做一次不要在__getitem__里反复读取 CSV否则每次取样本都会做重复 IO。__getitem__接收的index由 DataLoader 内部的 sampler 传进来你不需要自己维护顺序。返回的值一般是一个元组(数据, 标签)数据可以是张量也可以是 PIL 图片后面让 transform 统一处理。Image.open(...).convert(RGB)是为了确保所有图片都是三通道避免某张灰度图或者 RGBA 图在后续进入模型时 shape 不一致。这个细节我在实际项目里踩过一张透明的 PNG 就能让整个训练报错。3.2 DataLoader 的四参数权衡batch_size、shuffle、num_workers、pin_memoryDataset 定义了“怎么取一个样本”DataLoader 负责“怎么把这些样本组成一批、并高效送给模型”。新手最容易在这里照抄默认值不调导致训练慢或者直接卡死。from torchvision import transforms transform transforms.Compose([ transforms.Resize((224, 224)), transforms.ToTensor(), transforms.Normalize( [0.485, 0.456, 0.406], [0.229, 0.224, 0.225] ) ]) train_loader DataLoader( MyDataset(images, labels.csv, transformtransform), batch_size32, shuffleTrue, num_workers4, pin_memoryTrue )先解释 transform 这一块。Resize((224, 224))把图片统一到模型期望的输入大小ToTensor()把 PIL 图片转成[C, H, W]的张量顺便把像素值从 0 到 255 缩放到 0 到 1Normalize用均值 0.485、0.456、0.406 和方差 0.229、0.224、0.225 做标准化。这组数值来自大规模图像分类任务的经验统计值做迁移学习时沿用它们通常是安全的。再说四个参数。batch_size32是一个相对稳的起点显存小换 16显存充足换 64常见做法是数着显存来。shuffleTrue只能用在训练集验证集和测试集应该设False否则每轮验证的数据顺序一直在变指标波动会掩盖真实改进。num_workers4在 Linux 上通常能跑但在 Windows 上经常出现“卡住不动、子进程反复报错”的情况我给你的建议是先在 Windows 上设 0 确认能跑再慢慢往上加。pin_memoryTrue配合 GPU 训练值得默认打开它让 CPU 侧的数据在传输到 GPU 前锁页能减少一部分拷贝时间。到这里数据牌局的底层就搭好了。接着模型部分先带你拆掉一个叫“黑匣子”的顾虑。4. 模型搭建把 forward 从黑匣子改成你能说清的结构很多人看到nn.Module就觉得是黑匣子觉得只需要把官方代码贴进来就能跑。其实它只是一层轻封装核心逻辑是你自己写的forward。把构造和计算分开想明白模型对你就不再是黑匣子。4.1 nn.Module 的拆分逻辑构造层与 forward 各自管什么拿一个最简的图像分类模型举例输入是 28×28 的灰度图处理成 784 维的向量后过两层全连接。import torch.nn as nn class SimpleNet(nn.Module): def __init__(self): super().__init__() self.fc1 nn.Linear(784, 128) self.relu nn.ReLU() self.fc2 nn.Linear(128, 10) def forward(self, x): x self.fc1(x) x self.relu(x) x self.fc2(x) return x model SimpleNet() print(model)__init__里做的事是“把层建出来”相当于先准备好积木forward里做的事是“把数据流过这些层”相当于规定积木怎么搭。一个常见误区是直接在forward里新建层比如fc nn.Linear(784, 128)然后每次调用都重新创建一份这样不仅参数没被注册每次前向传播都会产生新的随机参数模型永远学不会。正确的做法是在__init__里完成任务forward里只负责调用。第一层的输入维度 784 是手算出来的28×28 展平成 784不是自动推断的。Pytorch 的nn.Linear不会帮你自动推算上一层输出所以你经常看到第一个前向报错“mat1 and mat2 shapes cannot be multiplied”原因多半是第一层维度写错。处理图像数据时常见做法是先在代码里打印一行x.shape确认进入全连接层之前的数据形状再写 Linear 的输入维度。4.2 parameters() 与 requires_grad让模型参数“指哪打哪”模型搭完以后你需要回答一个问题优化器到底在更新哪些参数答案是model.parameters()它是所有带requires_gradTrue的参数的集合。用下面这段可以看得一清二楚for name, param in model.named_parameters(): print(name, param.shape, param.requires_grad)输出里你会看到fc1.weight、fc1.bias、fc2.weight、fc2.bias这就是这个模型的全部家当。named_parameters()里的名字和__init__里的属性名是对应的这也能反过来验证你有没有把层正确注册到模块里。如果某个层没出现在这个列表里说明它没有被当成参数管理优化器自然也不会管它。优化器接收的也正是这个optimizer torch.optim.Adam(model.parameters(), lr1e-3)lr1e-3是一个比较通用的起点。所谓调参玄学其实大部分时候教你做两件事一是遇到 loss 不降时把学习率调小一个量级二是明确你要更新哪些参数。requires_gradFalse可以让某个层冻结不参与训练这在迁移学习里非常常用把预训练骨干网络的参数冻住只微调最后几层。这个操作带来的速度提升和防止过拟合效果往往比换一个复杂模型还明显。freeze 之后如果你反悔了把param.requires_grad True改回去就行这就是后悔药。5. 训练阶段的避坑笔记三条高频翻车与排查顺序训练循环本身代码很固定真正让人掉头发的是“看起来在训练但结果完全不对”。这一章我按“现象 → 原因 → 解决”的节奏写三条血泪经验。排查的时候我建议先把批次调小在 CPU 上跑通一次完整前向再换 GPU这个顺序能筛掉一大半低级错误。5.1 现象loss 飙升到 NaN原因是学习率和输入分布一起失控最典型的训练事故是前面几轮 loss 还在下降突然某一步变成nan之后再也回不来了。我见过有人遇到 NaN 后疯狂改网络结构但其实根源往往不在结构而在数值稳定性。排查顺序先看学习率。学习率太大梯度一步跨过头权重更新后输出直接爆炸几轮就会nan。解决方法是把lr从1e-3降到1e-4跑 20 轮看趋势。第二步看输入分布如果图片没做 Normalize像素值范围过大或者标签值不在[0, 类别数-1]区间内交叉熵很容易算出 NaN。最后可以打印梯度范数确认梯度是否异常放大。# 在 loss.backward() 前后各打一行先定位是 loss 异常还是梯度异常 print(loss:, loss.item()) loss.backward() for name, param in model.named_parameters(): if param.grad is not None: print(name, param.grad.abs().mean().item())loss.item()里那个.item()很重要它把只含一个值的张量转成普通 Python 数字避免在打印时把整个计算图的历史带出来。如果 loss 本身已经是nan问题多半出在模型输出或标签构造如果 loss 正常但梯度打印出来是nan问题多在反向传播过程中的数值溢出。5.2 现象训练集 acc 很高验证集却一塌糊涂看到这个现象时第一反应不一定是过拟合先查两个更容易犯的错数据划分泄漏和验证流程写错。数据泄漏的常见样子是你先把整个数据集做了归一化再切训练集和验证集。这样验证集的分布已经被训练集的信息修正过得到的 acc 虚高换到真实场景立刻露馅。正确的做法是先洗牌、再划分、最后再算归一化参数而且归一化参数只能用训练集算。另一个非常隐蔽的泄漏是数据增强泄漏验证集不能做和训练集一样的随机裁剪、翻转只能做缩放和标准化。验证流程写错更常见也是最容易被忽略的推理时忘了model.eval()或者忘了关梯度。model.eval() with torch.no_grad(): val_logits model(val_data)model.eval()会切换 Dropout 和 BatchNorm 的行为让它们不再使用训练期的随机丢弃或批次统计量。torch.no_grad()则让本次前向不建立计算图省显存也省时间而且结果更稳定。很多神秘的高训练 acc、低验证 acc有一半的原因是少了这两行。5.3 现象数据加载越跑越慢或者直接 OOM第一种是时间维度的翻车前几个 epoch 很快后面越来越慢。这通常不是模型变慢而是数据管道堆积。Windows 上尤其容易出现num_workers子进程反复报错导致主进程卡死或者你每轮循环里无意中创建了新的 Dataset 实例旧对象没有释放内存越占越多。我的建议是 Windows 下先num_workers0跑通再逐步提高到 4 或 8。Linux 下也建议用任务管理器观察内存确认没有持续上涨。第二种是显存维度的翻车CUDA out of memory。常见原因有三个忘了optimizer.zero_grad()梯度不断累加图越挂越大batch_size 设置过大验证阶段没开no_grad()。标准训练循环里梯度清零的位置是固定的for epoch in range(epochs): for data, target in train_loader: optimizer.zero_grad() output model(data) loss criterion(output, target) loss.backward() optimizer.step()zero_grad()必须放在backward()之前不能放在step()之后。如果漏了这一步默认行为是梯度累加而不是覆盖——这在某些特殊场景是需要的但对大多数人来说就是 OOM 和训练不稳的来源。如果显存仍然吃紧先把batch_size减半再检查是否在验证阶段用torch.no_grad()包住了前向。这一章的每一条都值得写进你自己的实验笔记里。最后收尾我想分享三个我在反复踩坑后沉淀下来的小习惯。6. 把课件改造成你自己的调参记录三个值得坚持的小习惯课件是别人的知识结构你的实验笔记才是自己的知识结构。与其把课件从头到尾抄一遍不如让它为你的一手记录服务。我目前最常用的做法是每看一章课件就把它改造成一个能独立运行的最小脚本跑出结果后再把结论写回自己的笔记里。这样笔记里每一句都对应一段你亲手验证过的代码而不是一段摘抄。第二个习惯是给每次实验做一行记录。这个习惯看起来笨但能救命。记录项可以非常简单时间模型结构lrbatch_size随机种子最终loss备注第1轮实验SimpleNet1e-33200.42基线第2轮实验SimpleNet1e-43200.31lr下调第3轮实验SimpleNet1e-464420.28加大batch这张表写满十行之后你对“哪个参数改坏了”会变得非常敏感。调参的后悔药不是一道命令而是这份记录。它能让你在三天之后还能回答“上一个能跑的组合到底是什么”。第三个习惯是训练报错时先看最后一行。Python 的 traceback 会把真正出错的代码行放在最下面往上翻是调用栈。新手最常见的做法是从头读读三分钟发现根本看不懂。我现在的习惯是先读最后一行找到文件名和行号再往上翻到我的业务代码那一层而不是去看 PyTorch 内部的源码。大多数错误不是库的问题是你的 shape、设备或数据类型的问题。我早期带 A 同学做图像分类作业时他就是把课件从头看到尾三天没写出一个能跑的脚本后来改成先跑通一个最简单的全连接版本再逐步换成卷积网络第二个晚上就出了结果。那次之后我养成一个习惯新学一个模块先写一个最小 demo再回到课件补理论。这个顺序帮我省下无数冤枉时间也是这篇笔记最想让你带走的一件事。希望帮到你。本文还有配套的精品资源点击获取