如何利用WordPress开发诗歌网站?

摘要:诗歌网站开发意义,wordpress 福利源码,热点事件舆情分析报告,在网站上做宣传属于广告费用吗论文阅读-federated unlearning via class-discriminative pruning FUCP 通过类别区分性
诗歌网站开发意义,wordpress 福利源码,热点事件舆情分析报告,在网站上做宣传属于广告费用吗论文阅读-federated unlearning via class-discriminative pruning FUCP 通过类别区分性剪枝进行联邦遗忘 综述中描述#xff1a;属于面向全局模型中的局部参数调整 利用卷积层的结构特定进行联邦忘却学习#xff0c;wang等人提出了针对图像分类任务的联邦忘却学习算法FUCP属于面向全局模型中的局部参数调整 利用卷积层的结构特定进行联邦忘却学习wang等人提出了针对图像分类任务的联邦忘却学习算法FUCP用于完成类别忘却任务。针对图像分类任务FUCP依据卷积神经网络结构中通道对类别的评分剪枝通道参数使联邦学习模型有选择地遗忘特定类别的贡献。然而FUCP只能删除某个类别数据对全局模型的贡献而无法剔除类别中的特定样本子集并且该算法只适合卷积神经网络分类模型。 CNN-convolutional neural network 卷积神经网络 TF-IDF–term frequency inverse document frequency 术语频率逆文档频率 fine-tuning 微调 SGD–stochastic gradient descent 随机梯度下降 NLP–natural language processing 自然语言处理 abstract 提出了一种方法来清除模型中有关特定类别的信息。该方法不需要从头开始重新训练也不需要全局访问用于训练的数据。相反我们引入术语频率逆文档频率的概念来量化通道的类别区分度。TF-IDF分数高的通道对目标类别有更多的辨别力因此需要进行修剪以消除学习。通道剪枝之后是微调过程以恢复剪枝模型的性能。 introduction TF-IDF是一种统计度量用于评估单词与一组文档中文档的相关程度。我们的忘却学习方法将通道的输出视为单词将类别的特征图视为文档并使用TF-IDF来评估通道和类别之间的相关分数。TF-IDF分数高的通道具有更多的类别区分因此需要进行剪枝以消除目标类别的贡献。剪枝过程不需要任何迭代训练或搜索因此计算效率高。最后进行微调过程以恢复剪枝模型的性能。 每个在线FL设备从联合服务器下载一个忘却学习程序本地训练的CNN模型将私有图像作为输入并生成每个通道和类别之间的特征图分数这些特征图分数被传送到联邦服务器并聚合为全局特征图分数服务器使用TF-IDF评估通道和类别之间的相关分数并构建剪枝器对目标类别最具判别力的通道执行剪枝收到剪枝完成的通知后每个在线FL设备从联邦服务器下载剪枝后的模型并使用排除目标类别的训练数据进行正常的联邦训练程序以实现微调。 一般集中式忘却 machine unlearning机器忘却学习他通常以低成本产生完全重新训练的模型的近似值。 这些方法粗略分为三组 1Fisher 忘却学习方法 2影响遗忘方法 3梯度遗忘法 通道剪枝的途径 如果能够在不全局访问数据的情况下量化每个通道学到的类别信息我们就有机会通过剪枝类别区分性最大的通道来忘记特殊类别。 ​ 1、通道的类别区分 每个通道的特征图具有局部性即一个特征图中的特定区域是被激活的。第13个卷积层中的第52个通道总是生成突出显示头部信息的特征图而第127个通道总是突出显示文本信息。因此不同的通道对图像分类中的不同类别有不同的贡献所以我们可以通过类别区分找到与目标类别具有最大可分离性的通道。 ​ 2、基于TF-IDF的信道评分 TF-IDF定义了单词和文档之间相关性的量化相关性随着单词在文档中出现的次数而成比例增加但会被包含该单词的文档数量所抵消。例如如果某个单词在文档中出现多次而在其他文档中出现次数不多则可能意味着该单词非常相关。 文档中单词的TF-IDF通过乘以两个不同的度量来量化文档中单词的术语频率TF文档集合中单词的逆文档频率IDF 对于所有文档集合E中的文档e中的单词tTF通常是通过e中出现的t实例的计数来计算的。然后频率除以e的长度。IDF可以通过将E的总体积除以包含t的文档数并计算对数来计算。将TF和IDF相乘得出e中t的TF-IDF分数。 我们的忘却方法将通道的输出视为单词将类别的特征图视为文档。因此这个TF-IDF变体可以评估通道和类别之间的相关分数。TF-IDF分数高的通道具有更多的类别区分因此需要进行剪枝。 ​ 3、类别区分性通道剪枝 通道剪枝的目标是删除每一层中的特定通道并将CNN模型缩小为更薄的模型。通道级剪枝的优点是直接删除整个通道。 与现有的类别区分性剪枝方法相比TF-IDF引导通道剪枝不需要任何迭代训练或搜索在计算开销方面要轻很多。
阅读全文