简介这套7z压缩包面向使用PyTorch处理高光谱图像HSI的开发者与研究者针对高光谱数据通道多、内存占用大、格式复杂等特点解决DataLoader加载数据时的读取、预处理与批处理效率问题。包内共7个文件含3个Python脚本数据加载、工具函数与训练流程、2个pyc缓存文件以及2个mat格式的Indian Pines高光谱数据集整体压缩后仅5.69MB脚本覆盖dataloader封装、Dataset构造与训练入口便于直接参照或改造。已有607人学习下载内容聚焦从Dataset定义到collate_fn自定义的完整链路并涉及归一化、多线程加载、pin_memory加速、shuffle随机采样与数据增强等实用设置。读者可结合压缩包内的高光谱数据子目录与数据集构造模块快速掌握针对高光谱多维数组的批处理方法和训练脚本写法同时理解缓存机制与自定义批处理函数对模型泛化和训练效率的影响代码结构清晰、模块划分明确适合希望将PyTorch数据加载流程落地到HSI任务中的初中级工程师。 高光谱图像这几年在遥感深度学习里几乎成了标配输入——地物分类、变化检测、异常目标识别动不动就是一个三维数据立方体直接喂给模型。可很多人绕过了网络结构那关反而被最基础的数据加载绊住高光谱数据不是一张图而是一个长宽几百、波段几十上百的三维数组和torchvision里现成那套ImageFolder完全不是一个路子。这篇文章把我实际跑高光谱分类任务时怎么用PyTorch的DataLoader把数据真正“喂”进模型的全流程拆开讲包括Dataset怎么写、DataLoader参数怎么调、预处理怎么做、哪些坑我是踩过以后才明白的。内容面向刚入门遥感深度学习、或者被数据加载卡住的研究生和工程师有基础代码能力的人照着就能跑通。1. 高光谱数据加载为什么不能照搬普通图像方案1.1 先搞清楚你手上到底是一份什么样的数据高光谱遥感数据本质上是一个三维数据立方体通常记作H×W×B。H和W是空间维度代表地物的长和宽B是光谱维度代表传感器在连续电磁波谱上采样的波段数。普通RGB图像只有3个波段高光谱数据动辄上百个波段比如Indian Pines数据集是145×145像素、200个波段Pavia University是610×340像素、103个波段。每个像素不再是一个三通道的颜色值而是一条完整的光谱曲线这才是高光谱“识别地物”的核心价值所在。除了数据本身还有一个配套的标签矩阵。以Indian Pines为例标签是一个145×145的二维矩阵每个位置存一个类别编号比如0表示背景未标注1到16是不同地物类别。你的模型要做的事情就是根据中心像素周围一个邻域窗口内的光谱和空间信息预测这个像素属于哪一类。这个“邻域窗口”的设定是理解高光谱DataLoader设计的关键起点。1.2 普通图像加载方式在哪里行不通很多新手上来就尝试torchvision的ImageFolder结果发现根本无从下手。原因是高光谱数据几乎没有现成的文件夹结构一个.mat或者.h5文件里就装着整幅图像的全部数据标签也不是文件名而是一个独立的矩阵。更麻烦的是如果一个样本就是一个完整的145×145×200的数据立方体显存再大也塞不下——你总不能把一个整图当成一个样本去训练吧。所以在高光谱分类里国内的公开数据集Indian Pines、Pavia University、Salinas等普遍采用一个共同策略以每个像素为中心裁取一个固定大小的空间patch比如11×11或13×13把patch内所有像素的所有波段作为输入该中心像素的标签作为输出。这样一来样本数等于有效标注像素数每个样本的尺寸是patch_size×patch_size×波段数既保留了空间上下文信息又把数据切成了适合训练的块。Dataset的核心工作就是把这个裁patch的过程封装起来。2. 手写自定义Dataset的核心实现2.1 Dataset接口只需要实现三个方法PyTorch定义Dataset类非常简洁只要继承torch.utils.data.Dataset然后实现__len__和__getitem__两个方法就行。__len__返回样本总数__getitem__给定一个索引返回一组训练样本和标签。对于高光谱数据常见做法是在__init__阶段把数据立方体和标签矩阵读进内存同时把所有有效像素的坐标存成一个列表__getitem__里根据坐标索引去切patch。很多第一次写Dataset的人会疑惑为什么不把patch提前切好存成数组原因很简单——训练时要做随机采样大部分数据集的标注像素有几万个Indian Pines约10249个像素有标注每个像素都要切一个11×11×200的patch提前切好意味着几十G的内存消耗和巨大的预处理时间完全不划算。每次按需切片才是工程上合理的方式。2.2 兼容多格式数据读取与归一化高光谱公开数据集的存储格式五花八门我遇到过的主要是三类MATLAB的.mat文件、HDF5的.h5文件、以及ENVI标准格式.hdr同名的.dat/.img文件。读取逻辑建议在Dataset的__init__里做一次统一封装这样换数据集时只改读取函数后续训练逻辑完全不用动。用scipy.io的loadmat读.mat用h5py读.h5ENVI格式可以用spectral库的envi.open接口。读进来之后最重要的是归一化。我自己的习惯是先做按波段的z-score标准化。做法是把数据从H×W×B reshape成(H*W)×B对每个波段算均值和标准差然后统一做标准化。这样处理后每个波段的值都处在同一量级不会因为个别高反射波段在数值上主导梯度更新。注意标准差要加一个极小值比如1e-6防止某个全零的波段除零。2.3 完整可用的代码模板下面这段代码是我在实际项目里用的精简版直接复制就能跑通Indian Pines这类数据。核心逻辑都在注释我写详细一点。import numpy as np import torch from torch.utils.data import Dataset import scipy.io as sio class HyperspectralDataset(Dataset): def __init__(self, data_path, label_path, patch_size11, normalizationTrue, target_classNone): data_path: 高光谱数据文件(.mat或.h5) label_path: 标签文件(.mat或.h5) patch_size: 空间邻域窗口大小建议奇数 # 读取数据立方体shape: (H, W, B) if data_path.endswith(.mat): self.data sio.loadmat(data_path)[data].astype(np.float32) elif data_path.endswith(.h5): import h5py with h5py.File(data_path, r) as f: self.data f[data][:].astype(np.float32) else: raise ValueError(暂不支持该文件格式) # 读取标签矩阵shape: (H, W) if label_path.endswith(.mat): self.labels sio.loadmat(label_path)[label].astype(np.int64) else: import h5py with h5py.File(label_path, r) as f: self.labels f[label][:].astype(np.int64) h, w, b self.data.shape # 按波段z-score标准化 if normalization: flat self.data.reshape(-1, b) mean flat.mean(axis0) std flat.std(axis0) 1e-6 self.data ((self.data - mean) / std).astype(np.float32) self.patch_size patch_size self.pad patch_size // 2 # 对原图做padding让边界像素也能切成完整patch self.data_padded np.pad(self.data, ((self.pad, self.pad), (self.pad, self.pad), (0, 0)), modereflect) self.labels_padded np.pad(self.labels, self.pad, modeconstant, constant_values0) # 收集所有有效像素的坐标 self.samples [] h_p, w_p self.labels_padded.shape for i in range(self.pad, h_p - self.pad): for j in range(self.pad, w_p - self.pad): if self.labels_padded[i, j] ! 0: self.samples.append((i, j)) def __len__(self): return len(self.samples) def __getitem__(self, idx): i, j self.samples[idx] # 切patchshape: (patch_size, patch_size, B) patch self.data_padded[i - self.pad : i self.pad 1, j - self.pad : j self.pad 1, :] # 转成PyTorch需要的 (C, H, W) 格式 patch_tensor torch.from_numpy(patch.transpose(2, 0, 1)).float() label torch.tensor(self.labels_padded[i, j], dtypetorch.long) return patch_tensor, label这段代码里有几个细节值得说。第一我在__init__直接对原图做了padding这样边界像素也能裁出完整的patch而且不用在__getitem__里做烦人的边界判断每次都是固定尺寸切片干净很多。第二padding模式用reflect比constant填0更自然因为高光谱图像相邻像素光谱曲线本来就接近反射填充不会引入突兀的伪信息。第三标签padding的地方填0这样边界区域即使被裁到也不会参与训练因为0被我们当成背景过滤掉了。2.4 从整图到patch的取舍逻辑为什么要用patch而不用单像素我最早做过一个对比实验单像素输入即1×1×B训练出来的模型在Indian Pines上的总体精度大概比用11×11 patch低5到8个百分点。原因很直观高光谱图像里地物分类高度依赖空间纹理信息同一个光谱特征在农田和城区可能代表完全不同的东西。patch相当于把中心像素周边邻居一起引入给模型提供了上下文。但patch也不是越大越好。patch过大有两个问题一是类别边界会被模糊边缘像素的patch里混入了太多异类地物反而干扰分类二是计算量和显存开销随patch面积平方增长。我实测下来Indian Pines用11×11或13×13比较均衡Pavia University空间分辨率相对高13×15左右的矩形patch也见过有人用。选patch时可以先固定一个值把流程跑通再去调参。3. DataLoader参数配置与性能细节3.1 batch_size和shuffle怎么设Dataset定义好了DataLoader就是个参数配置的事但参数配不好照样出问题。先看batch_size。高光谱patch输入是(B, C, H, W)的张量以11×11×200为例一个样本的数据量是11×11×200×4字节约96KB看起来不大但batch累积起来就不一样了。假设batch_size64一个batch的数据是64×96KB约6MB这只是输入真正占显存的是中间激活值模型越深、通道数越大显存消耗越夸张。所以我的建议是先从batch_size16或32开始用nvidia-smi实时看显存占用再逐步往上调找到一个“能跑满GPU但不OOM”的值。shuffle参数在训练集要设True这个大家基本都知道但要注意shuffle对高光谱数据的影响比普通图像更大。高光谱数据集中同一个地物块在空间上高度相关像素标签是成片的。如果不shuffle一个batch里可能全是同一块农田的像素模型在这个batch里学到的全是局部特征loss曲线会像锯齿一样剧烈波动。shuffle之后每个batch都尽量混入不同类别的样本训练才稳定。3.2 num_workers到底开多少num_workers控制DataLoader用几个子进程来并行加载数据。对高光谱场景这里有个容易踩的大坑如果整个数据立方体都在内存里每个worker进程会复制一份完整的数据副本。Indian Pines这种小数据量还好几百MB撑死了但如果你处理的是航空影像拼接出来的大场景高光谱图一个数据立方体可能好几个GB开4个worker就意味着内存直接翻4倍机器再大也容易扛不住。我的实际建议是先设num_workers0跑通确认逻辑没问题后再尝试增大。在Linux服务器上num_workers设为CPU核心数的一半通常性价比最高Windows环境下num_workers零点以上经常报错和系统多进程机制有关踩过这个坑之后我现在在Windows上干脆就一直用0。数据加载如果成了瓶颈优先考虑用内存映射或者提前把数据切成小块而不是盲目加worker。3.3 pin_memory与数据类型转换DataLoader里还有一个固定搭配建议直接加上pin_memoryTrue。这个参数的作用是把数据放进锁页内存GPU训练时从CPU传到GPU可以走更快的数据通路几乎是无本万利的加速手段。唯一的代价是占用一点内存对高光谱数据动辄几百MB的数据集来说完全可以接受。数据类型方面要特别注意。我在__getitem__里返回的patch用torch.float32标签用torch.long这是PyTorch训练的标准配置。很多新手会忽略高光谱数据被读进来时往往是float64比如从.mat读出来默认就是double直接用float64的patch跑模型显存直接翻倍速度还慢一半。所以在Dataset读取阶段一定要显式.astype(np.float32)这个习惯能帮你少踩无数内存坑。如果你用的是半精度混合精度训练AMP那在训练循环里做转换就行Dataset里保持float32反而更灵活。4. 高光谱数据的预处理与数据增强4.1 归一化是标配但归一化的粒度有讲究前面代码里做了按波段的z-score标准化这在高光谱任务里几乎是标配。但我看你数据的时候可以多做一步先把每一个波段的值统计一下分布高光谱数据经常会遇到几个波段全是噪声或者全为零的情况比如水汽吸收波段这些波段如果直接参与训练相当于往模型里灌垃圾信息。要么在预处理阶段直接删掉要么在做标准化时把方差极低的波段固定到一个小常数附近避免除零。归一化粒度上有一个选择全局归一化还是按像素归一化我倾向于按波段做全局标准化因为高光谱成像的物理含义是地表对太阳辐照的反射率不同波段的反射率有着不同的动态范围统一到同一量级后模型学到的每个波段权重才有可比性。而按像素归一化会破坏光谱间的相对关系反而不利于分类。4.2 光谱维度和空间维度的增强怎么做数据增强在高光谱任务里容易被忽略因为看起来“数据量挺大”——Indian Pines有几万像素标签感觉足够训练了。但实际上很多地物类别样本极少存在严重的类别不平衡。数据增强在高光谱里有一个独特优势除了常规的空间增强翻转、旋转、随机裁剪还能做光谱维度的增强这是普通RGB图像做不到的。光谱增强里我试过两种比较有效的方法。第一种是光谱加噪声给patch的光谱维度加上服从高斯分布的小噪声相当于模拟传感器在不同光照条件下的噪声变化。第二种是随机波段丢弃每次训练随机丢掉5%到10%的波段逼模型学到冗余和鲁棒的特征实测下来对提升泛化有稳定帮助。空间增强方面翻转和旋转在patch级别操作即可但要注意验证集和测试集不能做任何增强否则评价指标会虚高。4.3 类别不平衡问题的采样策略高光谱数据集的类别不平衡非常严重比如Indian Pines里有些类别只有几十个样本而另一些有上千个。如果直接按原始分布训练模型会学成“多数类主导”少数类几乎预测不出来。这时候可以给DataLoader配一个WeightedRandomSampler权重和每个类别的样本数成反比让稀有类别在采集时获得更高的概率。具体做法是统计每个类别的像素数量计算权重数组传给采样器。不过这里有个现实问题加权采样可能会导致多数类欠拟合总体精度反而下降。我自己的经验是如果目标是论文里的Overall Accuracy对比可以先留着不平衡不做处理把基线跑出来如果目标是实际应用中的地物识别那加权采样或者Focal Loss值得优先尝试。作为一个工程问题先把加权采样器实现了对比一下再定。5. 实操高频问题与排查经验5.1 加载速度慢训练一直在等数据如果训练时GPU利用率经常掉到50%以下很大概率是数据加载成了瓶颈。高光谱数据计算量本身不大瓶颈往往在磁盘IO和内存拷贝上。第一步可以检查你读入的是不是压缩格式比如.mat里默认可能用了压缩存储每次读取都要解压这个我在实践中遇到多次如果是解决思路是预先转成内存友好的.npy格式。第二步检查__getitem__里有没有做了多余的计算比如每次都在里面重新做切片、标准化等重复运算。标准化应该提前在__init__完成__getitem__只负责最轻量的切片和类型转换。5.2 内存暴涨程序直接被杀内存问题最常见的原因就是前面提到的多进程复制。另外还有一类情况容易被忽略你把整个数据集在Dataset里读了一遍但在预处理时又用np.concatenate或者Python列表不断追加导致多份拷贝同时存在。老话重提高光谱数据处理最好全程用Numpy数组减少不必要的拷贝。如果数据真的太大可以选择在__getitem__里按需读取HDF5文件的特定区域HDF5天然支持部分读取比一次性加载整个大文件更优雅。5.3 验证和测试阶段的分割要小心训练集和验证集的划分很多人直接在像素级别上随机划分这在遥感场景会有严重问题同一个地物的相邻像素高度相关随机划分会把“剧透”信息泄漏进验证集导致验证精度虚高。更重要的是如果训练集和验证集有大量空间重叠你评估的不是泛化能力而是记忆能力。正确的做法是按空间区域划分或者对每个类别按像素列表分层抽样但保证同一类别的训练和验证像素尽量远离。工业界还有一种做法是分块留出比如整图按网格切块把一部分块整体作为验证集这样更贴近真实应用场景。另外有一个小坑Dataset的__getitem__每次返回的patch都是独立切片验证时需要逐patch推理再拼接成完整预测图。这个过程注意也要padding一致否则拼接出来的预测图边缘会对不齐。5.4 一个完整的训练调用示例最后把DataLoader部分整合起来方便你直接参考标准用法。from torch.utils.data import DataLoader from torch.utils.data.sampler import WeightedRandomSampler import numpy as np # 实例化Dataset train_ds HyperspectralDataset( data_pathIndian_Pines.mat, label_pathIndian_Pines_gt.mat, patch_size11, normalizationTrue ) # 按类别数量计算采样权重 labels train_ds.labels # (H, W) unique, counts np.unique(labels[labels ! 0], return_countsTrue) class_count dict(zip(unique, counts)) sample_weights [] for i, j in train_ds.samples: cls train_ds.labels[i - train_ds.pad, j - train_ds.pad] sample_weights.append(1.0 / class_count[cls]) sampler WeightedRandomSampler(sample_weights, num_sampleslen(sample_weights), replacementTrue) train_loader DataLoader( train_ds, batch_size32, shuffleFalse, # 使用sampler时必须置False samplersampler, # 可替换为None来关闭加权采样 num_workers4, pin_memoryTrue, drop_lastTrue ) for batch_idx, (patches, targets) in enumerate(train_loader): patches patches.cuda() targets targets.cuda() # 这里就是你的模型前向和反向代码这个加载环节跑通之后剩下的模型结构、损失函数、评估指标都和水到渠成一样。但环境依赖那里多说一句PyTorch和CUDA版本的匹配是个老生常谈的问题我第一次装GPU版的时候就被版本不兼容坑过一整天直接按照官方提供的组合命令来装尽量别混装。我在实际做高光谱分类项目的过程中反复调整最多的不是网络层数反而是数据加载和预处理这部分。尤其当你在多个数据集上做对比实验时Dataset写得好不好直接决定你后续的工作量。把数据读取、归一化、patch采样、加载调度这四件事固化成一个通用模块以后换任何高光谱数据集都能几分钟内适配这件事值得你花时间一次性做扎实。本文还有配套的精品资源点击获取 PyTorch DataLoader加载高光谱数据全流程详解
简介这套7z压缩包面向使用PyTorch处理高光谱图像HSI的开发者与研究者针对高光谱数据通道多、内存占用大、格式复杂等特点解决DataLoader加载数据时的读取、预处理与批处理效率问题。包内共7个文件含3个Python脚本数据加载、工具函数与训练流程、2个pyc缓存文件以及2个mat格式的Indian Pines高光谱数据集整体压缩后仅5.69MB脚本覆盖dataloader封装、Dataset构造与训练入口便于直接参照或改造。已有607人学习下载内容聚焦从Dataset定义到collate_fn自定义的完整链路并涉及归一化、多线程加载、pin_memory加速、shuffle随机采样与数据增强等实用设置。读者可结合压缩包内的高光谱数据子目录与数据集构造模块快速掌握针对高光谱多维数组的批处理方法和训练脚本写法同时理解缓存机制与自定义批处理函数对模型泛化和训练效率的影响代码结构清晰、模块划分明确适合希望将PyTorch数据加载流程落地到HSI任务中的初中级工程师。 高光谱图像这几年在遥感深度学习里几乎成了标配输入——地物分类、变化检测、异常目标识别动不动就是一个三维数据立方体直接喂给模型。可很多人绕过了网络结构那关反而被最基础的数据加载绊住高光谱数据不是一张图而是一个长宽几百、波段几十上百的三维数组和torchvision里现成那套ImageFolder完全不是一个路子。这篇文章把我实际跑高光谱分类任务时怎么用PyTorch的DataLoader把数据真正“喂”进模型的全流程拆开讲包括Dataset怎么写、DataLoader参数怎么调、预处理怎么做、哪些坑我是踩过以后才明白的。内容面向刚入门遥感深度学习、或者被数据加载卡住的研究生和工程师有基础代码能力的人照着就能跑通。1. 高光谱数据加载为什么不能照搬普通图像方案1.1 先搞清楚你手上到底是一份什么样的数据高光谱遥感数据本质上是一个三维数据立方体通常记作H×W×B。H和W是空间维度代表地物的长和宽B是光谱维度代表传感器在连续电磁波谱上采样的波段数。普通RGB图像只有3个波段高光谱数据动辄上百个波段比如Indian Pines数据集是145×145像素、200个波段Pavia University是610×340像素、103个波段。每个像素不再是一个三通道的颜色值而是一条完整的光谱曲线这才是高光谱“识别地物”的核心价值所在。除了数据本身还有一个配套的标签矩阵。以Indian Pines为例标签是一个145×145的二维矩阵每个位置存一个类别编号比如0表示背景未标注1到16是不同地物类别。你的模型要做的事情就是根据中心像素周围一个邻域窗口内的光谱和空间信息预测这个像素属于哪一类。这个“邻域窗口”的设定是理解高光谱DataLoader设计的关键起点。1.2 普通图像加载方式在哪里行不通很多新手上来就尝试torchvision的ImageFolder结果发现根本无从下手。原因是高光谱数据几乎没有现成的文件夹结构一个.mat或者.h5文件里就装着整幅图像的全部数据标签也不是文件名而是一个独立的矩阵。更麻烦的是如果一个样本就是一个完整的145×145×200的数据立方体显存再大也塞不下——你总不能把一个整图当成一个样本去训练吧。所以在高光谱分类里国内的公开数据集Indian Pines、Pavia University、Salinas等普遍采用一个共同策略以每个像素为中心裁取一个固定大小的空间patch比如11×11或13×13把patch内所有像素的所有波段作为输入该中心像素的标签作为输出。这样一来样本数等于有效标注像素数每个样本的尺寸是patch_size×patch_size×波段数既保留了空间上下文信息又把数据切成了适合训练的块。Dataset的核心工作就是把这个裁patch的过程封装起来。2. 手写自定义Dataset的核心实现2.1 Dataset接口只需要实现三个方法PyTorch定义Dataset类非常简洁只要继承torch.utils.data.Dataset然后实现__len__和__getitem__两个方法就行。__len__返回样本总数__getitem__给定一个索引返回一组训练样本和标签。对于高光谱数据常见做法是在__init__阶段把数据立方体和标签矩阵读进内存同时把所有有效像素的坐标存成一个列表__getitem__里根据坐标索引去切patch。很多第一次写Dataset的人会疑惑为什么不把patch提前切好存成数组原因很简单——训练时要做随机采样大部分数据集的标注像素有几万个Indian Pines约10249个像素有标注每个像素都要切一个11×11×200的patch提前切好意味着几十G的内存消耗和巨大的预处理时间完全不划算。每次按需切片才是工程上合理的方式。2.2 兼容多格式数据读取与归一化高光谱公开数据集的存储格式五花八门我遇到过的主要是三类MATLAB的.mat文件、HDF5的.h5文件、以及ENVI标准格式.hdr同名的.dat/.img文件。读取逻辑建议在Dataset的__init__里做一次统一封装这样换数据集时只改读取函数后续训练逻辑完全不用动。用scipy.io的loadmat读.mat用h5py读.h5ENVI格式可以用spectral库的envi.open接口。读进来之后最重要的是归一化。我自己的习惯是先做按波段的z-score标准化。做法是把数据从H×W×B reshape成(H*W)×B对每个波段算均值和标准差然后统一做标准化。这样处理后每个波段的值都处在同一量级不会因为个别高反射波段在数值上主导梯度更新。注意标准差要加一个极小值比如1e-6防止某个全零的波段除零。2.3 完整可用的代码模板下面这段代码是我在实际项目里用的精简版直接复制就能跑通Indian Pines这类数据。核心逻辑都在注释我写详细一点。import numpy as np import torch from torch.utils.data import Dataset import scipy.io as sio class HyperspectralDataset(Dataset): def __init__(self, data_path, label_path, patch_size11, normalizationTrue, target_classNone): data_path: 高光谱数据文件(.mat或.h5) label_path: 标签文件(.mat或.h5) patch_size: 空间邻域窗口大小建议奇数 # 读取数据立方体shape: (H, W, B) if data_path.endswith(.mat): self.data sio.loadmat(data_path)[data].astype(np.float32) elif data_path.endswith(.h5): import h5py with h5py.File(data_path, r) as f: self.data f[data][:].astype(np.float32) else: raise ValueError(暂不支持该文件格式) # 读取标签矩阵shape: (H, W) if label_path.endswith(.mat): self.labels sio.loadmat(label_path)[label].astype(np.int64) else: import h5py with h5py.File(label_path, r) as f: self.labels f[label][:].astype(np.int64) h, w, b self.data.shape # 按波段z-score标准化 if normalization: flat self.data.reshape(-1, b) mean flat.mean(axis0) std flat.std(axis0) 1e-6 self.data ((self.data - mean) / std).astype(np.float32) self.patch_size patch_size self.pad patch_size // 2 # 对原图做padding让边界像素也能切成完整patch self.data_padded np.pad(self.data, ((self.pad, self.pad), (self.pad, self.pad), (0, 0)), modereflect) self.labels_padded np.pad(self.labels, self.pad, modeconstant, constant_values0) # 收集所有有效像素的坐标 self.samples [] h_p, w_p self.labels_padded.shape for i in range(self.pad, h_p - self.pad): for j in range(self.pad, w_p - self.pad): if self.labels_padded[i, j] ! 0: self.samples.append((i, j)) def __len__(self): return len(self.samples) def __getitem__(self, idx): i, j self.samples[idx] # 切patchshape: (patch_size, patch_size, B) patch self.data_padded[i - self.pad : i self.pad 1, j - self.pad : j self.pad 1, :] # 转成PyTorch需要的 (C, H, W) 格式 patch_tensor torch.from_numpy(patch.transpose(2, 0, 1)).float() label torch.tensor(self.labels_padded[i, j], dtypetorch.long) return patch_tensor, label这段代码里有几个细节值得说。第一我在__init__直接对原图做了padding这样边界像素也能裁出完整的patch而且不用在__getitem__里做烦人的边界判断每次都是固定尺寸切片干净很多。第二padding模式用reflect比constant填0更自然因为高光谱图像相邻像素光谱曲线本来就接近反射填充不会引入突兀的伪信息。第三标签padding的地方填0这样边界区域即使被裁到也不会参与训练因为0被我们当成背景过滤掉了。2.4 从整图到patch的取舍逻辑为什么要用patch而不用单像素我最早做过一个对比实验单像素输入即1×1×B训练出来的模型在Indian Pines上的总体精度大概比用11×11 patch低5到8个百分点。原因很直观高光谱图像里地物分类高度依赖空间纹理信息同一个光谱特征在农田和城区可能代表完全不同的东西。patch相当于把中心像素周边邻居一起引入给模型提供了上下文。但patch也不是越大越好。patch过大有两个问题一是类别边界会被模糊边缘像素的patch里混入了太多异类地物反而干扰分类二是计算量和显存开销随patch面积平方增长。我实测下来Indian Pines用11×11或13×13比较均衡Pavia University空间分辨率相对高13×15左右的矩形patch也见过有人用。选patch时可以先固定一个值把流程跑通再去调参。3. DataLoader参数配置与性能细节3.1 batch_size和shuffle怎么设Dataset定义好了DataLoader就是个参数配置的事但参数配不好照样出问题。先看batch_size。高光谱patch输入是(B, C, H, W)的张量以11×11×200为例一个样本的数据量是11×11×200×4字节约96KB看起来不大但batch累积起来就不一样了。假设batch_size64一个batch的数据是64×96KB约6MB这只是输入真正占显存的是中间激活值模型越深、通道数越大显存消耗越夸张。所以我的建议是先从batch_size16或32开始用nvidia-smi实时看显存占用再逐步往上调找到一个“能跑满GPU但不OOM”的值。shuffle参数在训练集要设True这个大家基本都知道但要注意shuffle对高光谱数据的影响比普通图像更大。高光谱数据集中同一个地物块在空间上高度相关像素标签是成片的。如果不shuffle一个batch里可能全是同一块农田的像素模型在这个batch里学到的全是局部特征loss曲线会像锯齿一样剧烈波动。shuffle之后每个batch都尽量混入不同类别的样本训练才稳定。3.2 num_workers到底开多少num_workers控制DataLoader用几个子进程来并行加载数据。对高光谱场景这里有个容易踩的大坑如果整个数据立方体都在内存里每个worker进程会复制一份完整的数据副本。Indian Pines这种小数据量还好几百MB撑死了但如果你处理的是航空影像拼接出来的大场景高光谱图一个数据立方体可能好几个GB开4个worker就意味着内存直接翻4倍机器再大也容易扛不住。我的实际建议是先设num_workers0跑通确认逻辑没问题后再尝试增大。在Linux服务器上num_workers设为CPU核心数的一半通常性价比最高Windows环境下num_workers零点以上经常报错和系统多进程机制有关踩过这个坑之后我现在在Windows上干脆就一直用0。数据加载如果成了瓶颈优先考虑用内存映射或者提前把数据切成小块而不是盲目加worker。3.3 pin_memory与数据类型转换DataLoader里还有一个固定搭配建议直接加上pin_memoryTrue。这个参数的作用是把数据放进锁页内存GPU训练时从CPU传到GPU可以走更快的数据通路几乎是无本万利的加速手段。唯一的代价是占用一点内存对高光谱数据动辄几百MB的数据集来说完全可以接受。数据类型方面要特别注意。我在__getitem__里返回的patch用torch.float32标签用torch.long这是PyTorch训练的标准配置。很多新手会忽略高光谱数据被读进来时往往是float64比如从.mat读出来默认就是double直接用float64的patch跑模型显存直接翻倍速度还慢一半。所以在Dataset读取阶段一定要显式.astype(np.float32)这个习惯能帮你少踩无数内存坑。如果你用的是半精度混合精度训练AMP那在训练循环里做转换就行Dataset里保持float32反而更灵活。4. 高光谱数据的预处理与数据增强4.1 归一化是标配但归一化的粒度有讲究前面代码里做了按波段的z-score标准化这在高光谱任务里几乎是标配。但我看你数据的时候可以多做一步先把每一个波段的值统计一下分布高光谱数据经常会遇到几个波段全是噪声或者全为零的情况比如水汽吸收波段这些波段如果直接参与训练相当于往模型里灌垃圾信息。要么在预处理阶段直接删掉要么在做标准化时把方差极低的波段固定到一个小常数附近避免除零。归一化粒度上有一个选择全局归一化还是按像素归一化我倾向于按波段做全局标准化因为高光谱成像的物理含义是地表对太阳辐照的反射率不同波段的反射率有着不同的动态范围统一到同一量级后模型学到的每个波段权重才有可比性。而按像素归一化会破坏光谱间的相对关系反而不利于分类。4.2 光谱维度和空间维度的增强怎么做数据增强在高光谱任务里容易被忽略因为看起来“数据量挺大”——Indian Pines有几万像素标签感觉足够训练了。但实际上很多地物类别样本极少存在严重的类别不平衡。数据增强在高光谱里有一个独特优势除了常规的空间增强翻转、旋转、随机裁剪还能做光谱维度的增强这是普通RGB图像做不到的。光谱增强里我试过两种比较有效的方法。第一种是光谱加噪声给patch的光谱维度加上服从高斯分布的小噪声相当于模拟传感器在不同光照条件下的噪声变化。第二种是随机波段丢弃每次训练随机丢掉5%到10%的波段逼模型学到冗余和鲁棒的特征实测下来对提升泛化有稳定帮助。空间增强方面翻转和旋转在patch级别操作即可但要注意验证集和测试集不能做任何增强否则评价指标会虚高。4.3 类别不平衡问题的采样策略高光谱数据集的类别不平衡非常严重比如Indian Pines里有些类别只有几十个样本而另一些有上千个。如果直接按原始分布训练模型会学成“多数类主导”少数类几乎预测不出来。这时候可以给DataLoader配一个WeightedRandomSampler权重和每个类别的样本数成反比让稀有类别在采集时获得更高的概率。具体做法是统计每个类别的像素数量计算权重数组传给采样器。不过这里有个现实问题加权采样可能会导致多数类欠拟合总体精度反而下降。我自己的经验是如果目标是论文里的Overall Accuracy对比可以先留着不平衡不做处理把基线跑出来如果目标是实际应用中的地物识别那加权采样或者Focal Loss值得优先尝试。作为一个工程问题先把加权采样器实现了对比一下再定。5. 实操高频问题与排查经验5.1 加载速度慢训练一直在等数据如果训练时GPU利用率经常掉到50%以下很大概率是数据加载成了瓶颈。高光谱数据计算量本身不大瓶颈往往在磁盘IO和内存拷贝上。第一步可以检查你读入的是不是压缩格式比如.mat里默认可能用了压缩存储每次读取都要解压这个我在实践中遇到多次如果是解决思路是预先转成内存友好的.npy格式。第二步检查__getitem__里有没有做了多余的计算比如每次都在里面重新做切片、标准化等重复运算。标准化应该提前在__init__完成__getitem__只负责最轻量的切片和类型转换。5.2 内存暴涨程序直接被杀内存问题最常见的原因就是前面提到的多进程复制。另外还有一类情况容易被忽略你把整个数据集在Dataset里读了一遍但在预处理时又用np.concatenate或者Python列表不断追加导致多份拷贝同时存在。老话重提高光谱数据处理最好全程用Numpy数组减少不必要的拷贝。如果数据真的太大可以选择在__getitem__里按需读取HDF5文件的特定区域HDF5天然支持部分读取比一次性加载整个大文件更优雅。5.3 验证和测试阶段的分割要小心训练集和验证集的划分很多人直接在像素级别上随机划分这在遥感场景会有严重问题同一个地物的相邻像素高度相关随机划分会把“剧透”信息泄漏进验证集导致验证精度虚高。更重要的是如果训练集和验证集有大量空间重叠你评估的不是泛化能力而是记忆能力。正确的做法是按空间区域划分或者对每个类别按像素列表分层抽样但保证同一类别的训练和验证像素尽量远离。工业界还有一种做法是分块留出比如整图按网格切块把一部分块整体作为验证集这样更贴近真实应用场景。另外有一个小坑Dataset的__getitem__每次返回的patch都是独立切片验证时需要逐patch推理再拼接成完整预测图。这个过程注意也要padding一致否则拼接出来的预测图边缘会对不齐。5.4 一个完整的训练调用示例最后把DataLoader部分整合起来方便你直接参考标准用法。from torch.utils.data import DataLoader from torch.utils.data.sampler import WeightedRandomSampler import numpy as np # 实例化Dataset train_ds HyperspectralDataset( data_pathIndian_Pines.mat, label_pathIndian_Pines_gt.mat, patch_size11, normalizationTrue ) # 按类别数量计算采样权重 labels train_ds.labels # (H, W) unique, counts np.unique(labels[labels ! 0], return_countsTrue) class_count dict(zip(unique, counts)) sample_weights [] for i, j in train_ds.samples: cls train_ds.labels[i - train_ds.pad, j - train_ds.pad] sample_weights.append(1.0 / class_count[cls]) sampler WeightedRandomSampler(sample_weights, num_sampleslen(sample_weights), replacementTrue) train_loader DataLoader( train_ds, batch_size32, shuffleFalse, # 使用sampler时必须置False samplersampler, # 可替换为None来关闭加权采样 num_workers4, pin_memoryTrue, drop_lastTrue ) for batch_idx, (patches, targets) in enumerate(train_loader): patches patches.cuda() targets targets.cuda() # 这里就是你的模型前向和反向代码这个加载环节跑通之后剩下的模型结构、损失函数、评估指标都和水到渠成一样。但环境依赖那里多说一句PyTorch和CUDA版本的匹配是个老生常谈的问题我第一次装GPU版的时候就被版本不兼容坑过一整天直接按照官方提供的组合命令来装尽量别混装。我在实际做高光谱分类项目的过程中反复调整最多的不是网络层数反而是数据加载和预处理这部分。尤其当你在多个数据集上做对比实验时Dataset写得好不好直接决定你后续的工作量。把数据读取、归一化、patch采样、加载调度这四件事固化成一个通用模块以后换任何高光谱数据集都能几分钟内适配这件事值得你花时间一次性做扎实。本文还有配套的精品资源点击获取