[ML lab 09-2] Tensorboard (Neural Net for XOR)

TesnsorBoard

그래프를 통해 학습이 잘 이루어지고 있는지 한눈에 확인할 수 있다.

 

[5 steps of using TensorBoard]

1. 어떤 tensor를 loging할 것인지 정한다.

w2_hist = tf.summary.histogram("weights2", W2)
cost_summ = tf.summary.scalar("cost", cost)

2. merge 한다.

summary = tf.summary.merge_all()

3. file 위치를 적어 writer를 만들고 graph를 추가한다.

# Create summary writer
writer = tf.summary.FileWriter('./logs')
writer.add_graph(sess.graph)

4. summery를 실행시키고 writer에 추가한다.

s, _ = sess.run([summary, optimizer], feed_dict = feed_dict)
writer.add_summary(s, global_step = global_step)

5. 터미널에 디렉토리 위치와 명령어를 적어 TensorBoard 그래프를 확인할 수 있다.

$ tensorboard --logdir=./logs

---

histogram (multi-dimensional tensors)

데이터가 vector일 때 분포를 확인할 수 있다.

---

name_scope()

각 layer 별로 정리하여 graph hierarchy를 더 깔끔하게 확인할 수 있다.

---

Multiple runs

상위 디렉토리를 실행시키면 하위의 그래프들을 모두 동시에 실행시켜 비교할 수 있다.