模型权重英语

Date: 2020/10/12 Coder: CW Foreword: 在将模型用于推断时，我们通常都会将 model.eval() 和 torch.no_grad() 一起使用，那么这两者可否单独使用？它们的区别又在哪里？你清楚吗？之前 CW 对这块也有些迷糊，于是自己做了实验，最终得到了结论，实验过程就不在本文叙述了，仅抛出结论作为参考。 Pytorch 的模型都继承自 torch.nn.Module ，这个类有个 training 属性，而这个方法会将这个属性值设置为False，从而影响一些模型在前向反馈过程中的操作，比如 BN 和 Dropout 层。在这种情况下，BN层不会统计每个批次数据的均值和方差，而是直接使用在基于训练时得到的均值和方差；Dropout层则会让所有的激活单元都通过。 同时， 梯度的计算不受影响 ，计算流依然会存储和计算梯度， 反向传播后仍然能够更新模型的对应的权重 （比如BN层的weight和bias依然能够被更新）。 通常是通过上下文的形式使用： 这种情况将停止autograd模块的工作，即 不会自动计算和存储梯度 ，因此 能够起到加速计算过程和节省显存的作用 ，同时也说明了 不能够进行反向传播以更新模型权重 。 由上可知，在推断时将 model.eval() 与 torch.no_grad() 搭配使用，主要是出于以下几点考虑： i). 模型中使用了诸如 BN 和 Dropout 这样的网络层，需要使用 model.eval() 来改变它们在前向过程中的操作； ii). 为了加速计算过程和节省显存，使用torch.no_grad()

权重 可以理解为等级 先后的意思，权重高的先执行，权重底的后执行

1987年，Aller等为美国环境保护局(EPA)开发了用于地下水脆弱性评价的DRASTIC方法。该方法是最早的基于参数系统的地下水脆弱性评价模型，已被用于美国的哥伦比亚、怀俄明等地区的40个县区，并被加拿大、南非等国采用。1991年，欧共体国家开始采用DRASTIC方法，并将其作为地下水脆弱性评价的统一标准。

DRASTIC方法考虑以下7个指标:地下水水位埋深、含水层净补给量、含水层介质、土壤介质、地形、包气带的影响、水力传导系数:以上各指标的评分范围均为1～10(Alleretal.，1987)。每个指标可根据其对地下水脆弱性影响的重要性赋予相应的权重。最后，脆弱性得分D，为以上7个指标的加权总和。D可以用下式表示:

断陷盆地地下水环境演化与水文地球化学模拟——以三门峡盆地为例

式中:Di———DRASTIC指数;

Wj———因子j的权重;

Rj———因子j得分。

DRASTIC提供了两组权重系列(表6.1)，一组适用于普通条件下的地下水脆弱性评价;另一组则用于强烈的农业活动区。根据DRASTIC指数可以进行地下水脆弱性分区，DRASTIC指数越大，地下水脆弱性越高。为便于脆弱性评价结果的展示，DRASTIC模型的评价结果一般分为5个等级:极低脆弱性、低脆弱性、中等脆弱性、高脆弱性和极高脆弱性(郭清海，2005)。

表6.1 DRASTIC模型的指标权重

(据Alleretal.，1987)