import torch
import torch.nn.functional as F
from torch.autograd import Variable
import matplotlib.pyplot as plt
# fake data
x = torch.linspace(-5, 5, 200) # x data (tensor), shape=(100, 1)
x = Variable(x) #創建 variable（變量），構造神經網絡要使用Variable類型
x_np = x.data.numpy() # numpy array for plotting，用于繪圖的numpy數組
# following are popular activation functions，以下是常用的激活函數
y_relu = torch.relu(x).data.numpy()
y_sigmoid = torch.sigmoid(x).data.numpy()
y_tanh = torch.tanh(x).data.numpy()
y_softplus = F.softplus(x).data.numpy() # there's no softplus in torch。torch沒有softplus
# y_softmax = torch.softmax(x, dim=0).data.numpy() softmax is a special kind of activation function, it is about probability
#softmax是一種特殊的激活函數，它與概率有關
# plt to visualize these activation function
#將這些激活函數可視化
plt.figure(1, figsize=(8, 6)) # 橫坐標與縱坐標
plt.subplot(221)
#plt.subplot()函數用于直接指定劃分方式和位置進行繪圖。
# 使用plt.subplot來創建小圖. plt.subplot(221)表示將整個圖像窗口分為2行2列, 當前位置為1.
plt.plot(x_np, y_relu, c='red', label='relu')
#plt.plot(x,y,format_string,**kwargs)
#x軸數據，y軸數據，format_string控制曲線的格式字串
#format_string 由顏色字符，風格字符，和標記字符
plt.ylim((-1, 5)) # 設置縱坐標的范圍
plt.legend(loc='best')#plt.legend()函數的作用是給圖像加圖例。，就左上角relu那個
#圖例是集中于地圖一角或一側的地圖上各種符號和顏色所代表內容與指標的說明，有助于更好的認識地圖
plt.subplot(222)# 使用plt.subplot來創建小圖. plt.subplot(221)表示將整個圖像窗口分為2行2列, 當前位置為2.
plt.plot(x_np, y_sigmoid, c='red', label='sigmoid')
#plt.plot(x,y,format_string,**kwargs)
#x軸數據，y軸數據，format_string控制曲線的格式字串
#format_string 由顏色字符，風格字符，和標記字符
plt.ylim((-0.2, 1.2)) # 設置縱坐標的范圍
plt.legend(loc='best')#plt.legend()函數的作用是給圖像加圖例。，就左上角relu那個
#圖例是集中于地圖一角或一側的地圖上各種符號和顏色所代表內容與指標的說明，有助于更好的認識地圖
plt.subplot(223)# 使用plt.subplot來創建小圖. plt.subplot(221)表示將整個圖像窗口分為2行2列, 當前位置為3.
plt.plot(x_np, y_tanh, c='red', label='tanh')
#plt.plot(x,y,format_string,**kwargs)
#x軸數據，y軸數據，format_string控制曲線的格式字串
#format_string 由顏色字符，風格字符，和標記字符
plt.ylim((-1.2, 1.2))# 設置縱坐標的范圍
plt.legend(loc='best')#plt.legend()函數的作用是給圖像加圖例。，就左上角relu那個
#圖例是集中于地圖一角或一側的地圖上各種符號和顏色所代表內容與指標的說明，有助于更好的認識地圖
plt.subplot(224)# 使用plt.subplot來創建小圖. plt.subplot(221)表示將整個圖像窗口分為2行2列, 當前位置為4.
plt.plot(x_np, y_softplus, c='red', label='softplus')
#plt.plot(x,y,format_string,**kwargs)
#x軸數據，y軸數據，format_string控制曲線的格式字串
#format_string 由顏色字符，風格字符，和標記字符
plt.ylim((-0.2, 6))# 設置縱坐標的范圍
plt.legend(loc='best')#plt.legend()函數的作用是給圖像加圖例。，就左上角relu那個
#圖例是集中于地圖一角或一側的地圖上各種符號和顏色所代表內容與指標的說明，有助于更好的認識地圖
plt.show()
#plt.show()則是將plt.imshow()處理后的函數顯示出來。
