如何使用python（pytorch或tensorflow）同时学习两个函数？

Question

我有三个系列的观察结果，即Y、T、 和X。我想研究两个模型的预测值之间的差异。第一个模型是学习g这样的Y=g(T, X)。第二种模型是学习L等f。Y=L(T)f(X)我使用 PyTorch 包或 Tensorflow 包学习第一个模型没有问题。但是，我不知道如何学习L和f。在使用 PyTorch 包时，我可以设置两个具有不同隐藏层和输入的前馈 MLP。为了简单起见，我定义了一个前馈 MLP 类，如下所示：class Feedforward(t.nn.Module): # the definition of a feedforward neural network    # Basic definition    def __init__(self, input_size, hidden_size):        super(Feedforward, self).__init__()        self.input_size = input_size        self.hidden_size  = hidden_size        self.fc1 = t.nn.Linear(self.input_size, self.hidden_size)        self.relu = t.nn.ReLU()        self.fc2 = t.nn.Linear(self.hidden_size, 1)        self.sigmoid = t.nn.Sigmoid()    # Advance definition    def forward(self, x):        hidden = self.fc1(x)        relu = self.relu(hidden)        output = self.fc2(relu)        output = self.sigmoid(output)        return output假设L=Feedforward(2,10)和L=Feedforward(3,9)。根据我的理解，我只能学习 或L，f但不能同时学习两者。是否可以同时学习L和f使用Y、T、 和X？

Answer 1

我可能遗漏了一些东西，但我认为你可以：

L = Feedforward(2,10)

f = Feedforward(3,9)

L_opt = Adam(L.parameters(), lr=...)

f_opt = Adam(f.parameters(), lr=...)

for (x,t,y) in dataset:

    L.zero_grad()

    f.zero_grad()

    y_pred = L(t)*f(x)

    loss = (y-y_pred)**2

    loss.backward()

    L_opt.step()

    f_opt.step()

您还可以将它们融合到一个模型中：

class ProductModel(t.nn.Module):

    def __init__(self, L, f):

        self.L = L

        self.f = f

    def forward(self, x,t):

        return self.L(t)*self.f(x)

然后像你训练的那样训练这个模型g