emp lee
10
2020-02-10 15:43:29
0
109

tensorflow learning rate 조절 해서 무조건 0에 수렴해야되나요??



import tensorflow as tf
import numpy as np
from pandas.io.parsers import read_csv
import pandas as pd
model = tf.global_variables_initializer();
data = read_csv('hyundai1018.csv', sep=',')
xy = np.array(data, dtype=float)
x_data = xy[:, :-1]
y_data = xy[:, [-1]]
X = tf.placeholder(tf.float32, shape=[None, 3])
Y = tf.placeholder(tf.float32, shape=[None, 1])
W = tf.Variable(tf.random_normal([3, 1]), name="weight")
b = tf.Variable(tf.random_normal([1]), name="bias")
hypothesis = tf.matmul(X, W) + b
cost = tf.reduce_mean(tf.square(hypothesis - Y))
optimizer = tf.train.GradientDescentOptimizer(learning_rate=1e-11)
train = optimizer.minimize(cost)
sess = tf.Session()
sess.run(tf.global_variables_initializer())
for step in range(100001):
    cost_, hypo_, _ = sess.run([cost, hypothesis, train], feed_dict={X: x_data, Y: y_data})
    if step % 500 == 0:
        print("#", step, " 손실 비용: ", cost_)
        print("- 주택 가격: ", hypo_[0])
(learning_rate=1e-11)
# 0 손실 비용: 6271660500.0 - 주택 가격: [-43220.797] # 500 손실 비용: 24254966.0 - 주택 가격: [32056.363] # 1000 손실 비용: 24254934.0 - 주택 가격: [32056.395] # 1500 손실 비용: 24254898.0 - 주택 가격: [32056.424] # 2000 손실 비용: 24254872.0 - 주택 가격: [32056.43] # 2500 손실 비용: 24254830.0 - 주택 가격: [32056.436] # 3000 손실 비용: 24254798.0 - 주택 가격: [32056.438] # 3500 손실 비용: 24254756.0 - 주택 가격: [32056.438] # 4000 손실 비용: 24254718.0 - 주택 가격: [32056.443] # 4500 손실 비용: 24254692.0 - 주택 가격: [32056.445] # 5000 손실 비용: 24254660.0 - 주택 가격: [32056.451] # 5500 손실 비용: 24254620.0 - 주택 가격: [32056.451] # 6000 손실 비용: 24254578.0 - 주택 가격: [32056.453] # 6500 손실 비용: 24254552.0 - 주택 가격: [32056.455] # 7000 손실 비용: 24254516.0 - 주택 가격: [32056.46] # 7500 손실 비용: 24254484.0 - 주택 가격: [32056.46] # 8000 손실 비용: 24254454.0 - 주택 가격: [32056.463] # 8500 손실 비용: 24254420.0 - 주택 가격: [32056.469] # 9000 손실 비용: 24254376.0 - 주택 가격: [32056.47] # 9500 손실 비용: 24254350.0 - 주택 가격: [32056.47] # 10000 손실 비용: 24254308.0 - 주택 가격: [32056.477]
learning_rate=1e-13
# 0 손실 비용: 115584430.0 - 주택 가격: [41159.95] # 500 손실 비용: 88082240.0 - 주택 가격: [39667.57] # 1000 손실 비용: 68857780.0 - 주택 가격: [38419.83] # 1500 손실 비용: 55419704.0 - 주택 가격: [37376.64] # 2000 손실 비용: 46026336.0 - 주택 가격: [36504.465] # 2500 손실 비용: 39460144.0 - 주택 가격: [35775.258] # 3000 손실 비용: 34870190.0 - 주택 가격: [35165.574] # 3500 손실 비용: 31661782.0 - 주택 가격: [34655.84] # 4000 손실 비용: 29419088.0 - 주택 가격: [34229.676] # 4500 손실 비용: 27851400.0 - 주택 가격: [33873.363] # 5000 손실 비용: 26755532.0 - 주택 가격: [33575.465] # 5500 손실 비용: 25989532.0 - 주택 가격: [33326.4] # 6000 손실 비용: 25454094.0 - 주택 가격: [33118.164] # 6500 손실 비용: 25079792.0 - 주택 가격: [32944.06] # 7000 손실 비용: 24818166.0 - 주택 가격: [32798.5] # 7500 손실 비용: 24635274.0 - 주택 가격: [32676.799] # 8000 손실 비용: 24507440.0 - 주택 가격: [32575.055] # 8500 손실 비용: 24418076.0 - 주택 가격: [32489.984] # 9000 손실 비용: 24355616.0 - 주택 가격: [32418.865] # 9500 손실 비용: 24311954.0 - 주택 가격: [32359.402] # 10000 손실 비용: 24281432.0 - 주택 가격: [32309.688]
learning_rate=1e-15
# 0 손실 비용: 4940839400.0 - 주택 가격: [-34726.164] # 500 손실 비용: 4923305000.0 - 주택 가격: [-34606.97] # 1000 손실 비용: 4905845000.0 - 주택 가격: [-34488.082] # 1500 손실 비용: 4888417300.0 - 주택 가격: [-34369.195] # 2000 손실 비용: 4871020500.0 - 주택 가격: [-34250.31] # 2500 손실 비용: 4853655000.0 - 주택 가격: [-34131.42] # 3000 손실 비용: 4836338700.0 - 주택 가격: [-34012.652] # 3500 손실 비용: 4819210000.0 - 주택 가격: [-33894.965] # 4000 손실 비용: 4802112500.0 - 주택 가격: [-33777.28] # 4500 손실 비용: 4785043500.0 - 주택 가격: [-33659.594] # 5000 손실 비용: 4768006700.0 - 주택 가격: [-33541.906] # 5500 손실 비용: 4751000000.0 - 주택 가격: [-33424.22] # 6000 손실 비용: 4734093300.0 - 주택 가격: [-33307.016] # 6500 손실 비용: 4717320700.0 - 주택 가격: [-33190.53] # 7000 손실 비용: 4700578000.0 - 주택 가격: [-33074.043] # 7500 손실 비용: 4683865000.0 - 주택 가격: [-32957.555] # 8000 손실 비용: 4667181600.0 - 주택 가격: [-32841.07] # 8500 손실 비용: 4650529000.0 - 주택 가격: [-32724.588] # 9000 손실 비용: 4634015000.0 - 주택 가격: [-32608.873] # 9500 손실 비용: 4617593000.0 - 주택 가격: [-32493.588] # 10000 손실 비용: 4601199600.0 - 주택 가격: [-32378.303]


0
0
  • 답변 0

  • 로그인을 하시면 답변을 등록할 수 있습니다.