校园春色亚洲色图_亚洲视频分类_中文字幕精品一区二区精品_麻豆一区区三区四区产品精品蜜桃

主頁 > 知識庫 > Pytorch獲取無梯度TorchTensor中的值

Pytorch獲取無梯度TorchTensor中的值

熱門標簽:外呼系統哪些好辦 沈陽防封電銷卡品牌 如何申請400電話費用 江西省地圖標注 沈陽人工外呼系統價格 富錦商家地圖標注 武漢外呼系統平臺 池州外呼調研線路 沈陽外呼系統呼叫系統

獲取無梯度Tensor

遇到的問題:

使用兩個網絡并行運算,一個網絡的輸出值要給另一個網絡反饋。而反饋的輸出值帶有網絡權重的梯度,即grad_fn=XXXBackward0>.

這時候如果把反饋值扔到第二網絡中更新,會出現第一個計算圖丟失無法更新的錯誤。哎喲喂,我根本不需要第一個網絡的梯度好嗎?

一開始用了一個笨辦法,先轉numpy,然后再轉回torch.Tensor。因為numpy數據是不帶梯度的。

但是我的原始tensor的放在cuda上的,

cuda的張量是不能直接轉Tensor,所以

t_error = td_error.cuda().data.cpu().numpy()
t_error = torch.FloatTensor(t_error).to(device)

從cuda轉回了cpu,變成numpy,又轉成了tensor,又回到了cuda上,坑爹呢這是,可能只有我才能寫出如此低效的辣雞代碼了。

后來發現,其實直接在返回的時候添加

with torch.no_grad():
 td_error = reward + GAMMA * v_ - v

即可.

補充:在pytorch中取一個tensor的均值,然后該張量中的所有值與其對比!

Pytorch中的Tensor的shape是(B, C, W, H),

對該tensor取均值并與所有值做對比代碼如下:

C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3]
for c in range(C):
 mean = torch.mean(x[0][c])
 for h in range(H):
  for w in range(W):
  if x[0][c][h][w] >= mean:
  x[0][c][h][w] = mean

以上為個人經驗,希望能給大家一個參考,也希望大家多多支持腳本之家。

您可能感興趣的文章:
  • 淺談pytorch中為什么要用 zero_grad() 將梯度清零
  • PyTorch梯度裁剪避免訓練loss nan的操作
  • PyTorch 如何自動計算梯度
  • pytorch 如何打印網絡回傳梯度
  • pytorch損失反向傳播后梯度為none的問題
  • PyTorch 如何檢查模型梯度是否可導

標簽:阿里 株洲 常德 通遼 潛江 黑龍江 呂梁 銅川

巨人網絡通訊聲明:本文標題《Pytorch獲取無梯度TorchTensor中的值》,本文關鍵詞  Pytorch,獲取,無,梯度,TorchTensor,;如發現本文內容存在版權問題,煩請提供相關信息告之我們,我們將及時溝通與處理。本站內容系統采集于網絡,涉及言論、版權與本站無關。
  • 相關文章
  • 下面列出與本文章《Pytorch獲取無梯度TorchTensor中的值》相關的同類信息!
  • 本頁收集關于Pytorch獲取無梯度TorchTensor中的值的相關信息資訊供網民參考!
  • 推薦文章
    主站蜘蛛池模板: 公主岭市| 岳阳县| 德钦县| 云浮市| 宜宾市| 通辽市| 嘉荫县| 宣恩县| 进贤县| 德阳市| 偏关县| 依安县| 延庆县| 唐山市| 那曲县| 鹿泉市| 扎赉特旗| 德令哈市| 定西市| 舟山市| 清远市| 通辽市| 浦北县| 申扎县| 吉首市| 镇江市| 渭南市| 嘉兴市| 嫩江县| 阳东县| 金乡县| 呼伦贝尔市| 鄱阳县| 迁西县| 贵定县| 乐都县| 兴化市| 罗田县| 郑州市| 台中县| 敖汉旗|