0️⃣ Visualization Methods

• Feature vector visualization using t-SNE/PCA
• Activation Visualization
• Maximally Activating Images / Patches
• Maximization by Optimization & Deep Dream
• Occlusion

1️⃣ Feature Vector Visualization using t-SNE/PCA

• 이미지를 분류 네트워크에 넣고 나오는 마지막 Layer(분류되기 전 마지막 Layer)의 출력 값 → 입력에 비해 축소된 차원(Dimension)을 가짐

• 축소된 값(Feature Vector) → 이미지의 강력한 특징들을 표현한 새로운 벡터

• 이미지들에서 추출된 Feature Vector들도 축소된 차원이 많아 Visualization을 바로 하기는 힘듦

  • PCA/t-SNE 등을 이용하여 2, 3차원으로 축소
  • Reduction된 Feature Vector를 이용하여 이미지들을 좌표평면에 시각화해 볼 수 있음

• Example

  

• Reference

  How to Visualize Your Data with Dimension Reduction Techniques

2️⃣ Activation Visualization