在 niftynet 上实现迁移学习

Question

我想使用 Dense V-Net 架构实现迁移学习。在我搜索如何执行此操作时，我发现此功能目前正在开发中（如何在 NiftyNet 中实现迁移学习？）。虽然从那个答案很明显没有直接的方法来实现它，但我试图：1) 创建密集 V-Net2) 从 .ckpt 文件中恢复权重3）自己实现迁移学习要执行第 1 步，我想我可以使用 niftynet.network.dense_vnet 模块。因此，我尝试了以下操作：checkpoint = '/path_to_ckpt/model.ckpt-3000.index'x = tf.placeholder(dtype=tf.float32, shape=[None,1,144,144,144])architecture_parameters = dict(    use_bdo=False,    use_prior=False,    use_dense_connections=True,    use_coords=False)hyperparameters = dict(    prior_size=12,    n_dense_channels=(4, 8, 16),    n_seg_channels=(12, 24, 24),    n_input_channels=(24, 24, 24),    dilation_rates=([1] * 5, [1] * 10, [1] * 10),    final_kernel=3,    augmentation_scale=0)model_instance = DenseVNet(num_classes=9,hyperparameters=hyperparameters,                             architecture_parameters=architecture_parameters)model_net = DenseVNet.layer_op(model_instance, x)但是，我收到以下错误：TypeError: Failed to convert object of type <type 'list'> to Tensor. Contents: [None, 1, 72, 72, 24]. Consider casting elements to a supported type.所以，问题是：有什么方法可以实现吗？

Answer 1

一个简单的迁移学习可以在你的参数设置的方式，从现有的模型恢复权重来实现starting_iter在[TRAINING]你的配置文件的部分预训练模式的数量。在你的例子中starting_iter=3000。

这将从您的模型中恢复权重，新的迭代将从这个初始化开始。

这里模型的架构必须完全相同，否则你会得到一个错误。

对于更复杂的迁移学习或许也微调，您可以只恢复权重的一部分，还有很大的执行在这里。它可能很快就会与官方 niftynet 存储库合并，但您已经可以使用它了。