|
- 少样本与零样本学习的新支撑—自监督机制的理论基础与实战-云社区-华为云
少样本与零样本学习的新支撑—自监督机制的理论基础与实战 深度学习已经从最初的多层感知器(MLP)发展出复杂的神经网络体系,如卷积神经网络(CNN)、循环神经网络(RNN)乃至Transformer架构。但近年来, 自监督学习(Self-Supervised Learning, SSL) 正逐渐成为推动深度学习前沿的新范式。本文将
- 一文带你了解自监督学习中的对比学习的负样本采样策略-云社区-华为云
【摘要】 自监督学习中的对比学习(Contrastive Learning)通过 区分正样本对(相似特征)与负样本对(不相似特征) 来学习判别性特征表示。其中,负样本采样策略是核心设计之一,直接影响模型对特征空间区分能力的学习效果。以下从 负样本的作用机制 出发,结合SimCLR、MoCo等经典方法,详细解析
- 一表搞定自监督学习与监督学习对比 - 华为云社区
自监督学习是一种机器学习技术,属于无监督学习的一个子集,它通过从无标记数据中自动生成监督信号来训练模型,从而在不需要人工标注标签的情况下学习数据的特征和模式。以下是其相关介绍: 常见方法 自预测学习:也称为自动关联自监督学习,训练模型根据有关其他部分的信息来预测单个
- Transformers in Vision 系列(一):自监督学习-云社区-华为云
自监督学习的魅力就在于前置任务的学习**。 众所周知,ImageNet数据集是耗费了很大的人力来人工标注完成的,对深度学习的发展起到了巨大的推动作用,但是ImageNet数据集也只有1400万张有标注的图片,这些图片仍然无法覆盖到人类生活场景的方方面面,因此
- Geneformer:基于Transformer的基因表达预测深度学习模型
1 Geneformer介绍 GeneFormer是一种基于 Transformer 架构的深度学习模型,专为基因表达数据分析而设计。 它将基因视为“词汇”,将整个基因组的表达谱视为“句子”,通过自监督学习捕捉基因间的复杂调控关系和生物学背景,在医学研究中展现出强大的应用潜力。
- 使用Python实现深度学习模型:自监督学习与对抗性训练
6 总结 本文详细介绍了如何使用Python实现自监督学习和对抗性训练。 通过自监督学习,我们可以减少对标注数据的依赖,并提升模型在下游任务中的表现;通过对抗性训练,我们可以增强模型的鲁棒性,使其更难以被对抗样本欺骗。
- 无监督学习在生成模型中的发展与创新-云社区-华为云
本文将围绕无监督学习在生成模型中的发展、创新及其应用进行探讨,并使用PyTorch实现一个简单的变分自编码器(VAE)模型。 一、无监督学习的经典模型1
- 半监督学习算法中自训练(Self-training)-云社区-华为云
自训练(Self-training)是半监督学习算法中的一种方法。 在半监督学习中,我们通常有一个带有标签的小型数据集和一个未标记的大型数据集。 自训练算法通过使用已经标记的数据来训练一个初始模型,然后使用这个模型来对未标记的数据进行预测。
|
|
|