线性神经网络深度学习架构,激活函数的选择

** 我在学习kaggel里房价预测这个数据集时,打算用神经网络来进行预测,如何选择一个好的激活函数或者什么函数可以更好的预测线性结果呢? csdn里面没多少写线性架构的,于是我又去看了做同一个数据集的作品,他使用的激活函数是2层rlue,但是李沐的课程里面又是一个单层的线性层,于是就有了这个问题
**


class Model(nn.Module):
    def __init__(self,in_features,out_features):
        super().__init__()
        self.linear1 = nn.Linear(in_features=in_features,out_features=256,bias=True,dtype=torch.float32)
        self.linear2 = nn.Linear(256,64)
        self.output = nn.Linear(64,out_features= out_features,bias=True,dtype=torch.float32)
 
    def forward(self,x):
        sigma1 = torch.relu(self.linear1(x))
        sigma2 = torch.relu(self.linear2(sigma1))
        output = self.output(sigma2)
        return output

线性层有啥用吗,扩大或缩小多少倍吗……