卷积神经网络（CNN）的参数调整是优化模型性能的关键步骤，以下是一些核心方法及注意事项：

1. 学习率（Learning Rate）

• 作用：控制参数更新的步长。
• 调整方法：
  • 初始值选择：常用范围是 (10^{-3}) 到 (10^{-5})，可通过学习率扫描（LR Finder）确定。
  • 动态调整：使用学习率衰减（如指数衰减、余弦退火）或自适应优化器（如Adam、RMSprop）。
  • 注意事项：过大会导致震荡不收敛，过小则训练缓慢。

2. 优化器（Optimizer）

• 常见选择：SGD（带动量）、Adam、Adagrad等。
• 参数调整：
  • 动量（Momentum）：通常设为0.9（SGD），缓解局部最优问题。
  • 自适应参数：如Adam的 (\beta_1, \beta_2)，一般无需调整，保持默认（如0.9和0.999）。

3. 批量大小（Batch Size）

• 影响：小批量（如32-256）提供噪声正则化，大批量加速训练但需更大内存。
• 配合调整：增大批量时，可适当提高学习率（线性缩放规则）。

4. 卷积层参数

• 卷积核数量：逐层递增（如16→32→64），深层捕捉高阶特征。
• 卷积核尺寸：常用3×3或5×5，小尺寸减少参数且保留局部特征。
• 步长（Stride）与填充（Padding）：步长2可降维，填充“same”保持特征图尺寸。

5. 正则化与防过拟合

• Dropout：全连接层常用比例0.2-0.5，输入层更低。
• L2正则化：惩罚项系数（λ）通常在 (10^{-4}) 到 (10^{-2})。
• Batch Normalization：加速收敛，允许更高学习率，常加在卷积层后。

6. 网络结构与深度

• 深度调整：增加层数提升表达能力，但需配合残差连接（ResNet）避免梯度消失。
• 全局池化：用全局平均池化替代全连接层，减少参数量。

7. 数据增强

• 方法：旋转、裁剪、翻转、色彩抖动等。
• 调整关键：平衡多样性（防过拟合）与真实性（避免噪声干扰）。

8. 超参数搜索策略

• 网格搜索：小范围精确调整，但计算成本高。
• 随机搜索：更高效，适合高维空间。
• 自动化工具：贝叶斯优化（Hyperopt）、遗传算法或AutoML框架（如Optuna）。

9. 早停法（Early Stopping）

• 耐心参数（Patience）：通常设为10-20个epoch，监控验证集损失不再下降时终止训练。

10. 激活函数选择

• ReLU族：常用ReLU，深层网络可换Leaky ReLU（负斜率0.01）或ELU防神经元死亡。

调整流程建议

1. 固定其他参数，优先调整学习率和批量大小。
2. 优化网络深度与卷积核配置。
3. 加入正则化（如Dropout、BN）并调整强度。
4. 最后微调数据增强策略和优化器参数。

通过系统化调整，结合验证集监控，可显著提升CNN的泛化能力与效率。