在火炬中强制nn.Parameter (矩阵)参数中的结构
提问于 2022-03-07 05:54:27
在PyTorch库中，可以定义具有某些初始值的神经网络参数nn.Parameter，例如，
some_param = nn.Parameter(data=torch.rand(4,4))在我的例子中，我想对这个参数强制执行一些结构。例如，考虑一个严格的下三角形式(在矩阵参数的情况下)，因此some_param的形式如下：
[ 0 0 0 0 ]
[a21 0 0 0 ]
[a31 a32 0 0 ]
[a41 a42 a43 0 ]但是，如果我用
some_param = nn.Parameter(data=torch.tril(torch.rand(4,4),-1))然后在训练中对角线上的零点可以得到非零.如何确保此参数在培训期间保持其结构？
回答 1
Stack Overflow用户
发布于 2022-03-07 09:02:37
您可以显式地存储6个参数，然后动态构建完整的矩阵：
class StructuredParameter(nn.Module):
def __init__(self, ...):
self.explicit_p = nn.Parameter(torch.rand(6,))
self.tril_ind = torch.tril_indice(4, 4, -1)
def forward(self, ...):
# before using some_param - create it
some_param = torch.zeros(4, 4)
some_params[self.tril_ind] = self.explicit_p
# use some_param ...页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/71382161
复制相关文章
![RabbitMQ入门：发布/订阅（Publish/Subscribe）[通俗易懂]](https://ask.qcloudimg.com/http-save/yehe-8223537/5ad7170cec562ae59305e5a39bc58536.jpeg)
点击加载更多
腾讯云开发者
