%matplotlib inline
import matplotlib.pyplot as plt
import numpy as np
import imageio
import scipy.misc
im = imageio.imread('test.jpg') # 읽고
plt.imshow(im)
print(im.shape)
(1044, 1179, 3)
i_width = 32
i_height = 32
im2 = scipy.misc.imresize(im, (i_height, i_width)) # resize
plt.imshow(im2)
print(im2.shape)
(32, 32, 3)
im2 = im2.astype(np.float32)
im2 = im2/255.0
%matplotlib inline
import matplotlib.pyplot as plt
import numpy as np
import imageio
import tensorflow as tf
import os
os.environ["CUDA_DEVICE_ORDER"]="PCI_BUS_ID"
os.environ["CUDA_VISIBLE_DEVICES"]="7"
def batch(file_list, batch_size=16):
fileQ = tf.train.string_input_producer(file_list, shuffle=False)
reader = tf.WholeFileReader()
filename, data = reader.read(fileQ)
image = tf.image.decode_jpeg(data, channels=3)
img = imageio.imread(file_list[0])
w, h, c = img.shape
shape = [w, h, 3]
image.set_shape(shape)
min_after_dequeue = 10000
capacity = min_after_dequeue + 3 * batch_size
queue = tf.train.shuffle_batch(
[image], batch_size=batch_size,
num_threads=4, capacity=capacity,
min_after_dequeue=min_after_dequeue, name='synthetic_inputs')
crop_queue = tf.image.crop_to_bounding_box(queue, 50, 25, 128, 128)
resized = tf.image.resize_nearest_neighbor(crop_queue, [64, 64])
return tf.to_float(resized)
import os
dir_ = '/root/CelebA/images'
jpgs = os.listdir(dir_)
filelist = [os.path.join(dir_, jpg) for jpg in jpgs]
plt.imshow(imageio.imread(filelist[0]))
<matplotlib.image.AxesImage at 0x7f95ae746d68>
data_loader = batch(filelist)
위까지 하면 batch가 만들어지고.. 한번 뽑아보자!
with tf.Session() as sess:
sess.run(tf.global_variables_initializer())
coord = tf.train.Coordinator()
threads = tf.train.start_queue_runners(sess=sess, coord=coord)
im = sess.run(data_loader)
coord.request_stop()
coord.join(threads)
im = im.astype(np.uint8)
plt.imshow(im[8, :])
<matplotlib.image.AxesImage at 0x7f95ac1a75f8>
요래 생겼다.
where
D 관점에서 (1)의 앞 뒤의 수식을 따로 생각해보면
V(D, G)를 크게할 수 있다.
이제 G 관점에서 (1)의 뒷 수식만 보면
논문에 있는 그림인데,
실용적인 수식 변환
사실 (1)에서 $log(1-D(G(z)))$를 minimize하는 대신 $log(D(G(z)))$를 maximize 한다. 처음에 G가 너무 구려서 Discriminator가 구분을 잘함. 그래서 $log(1-D(G(z)))$에 대한 gradient가 0에 가까움.. 근데 $log(D(G(z)))$는 괜찮음.
G가 고정되어있으면 최적의 discriminator D는
미분해서 0이되는 y를 찾으면 당연히 저 값이 나온다. 로그 두개를 하나는 반대로 만들어서 더한 꼴인데, 볼록한 형태일테고… 쉬우니까 넘어가자.
1을 증명했으면 이제 $V(D,G)$를 전개해보자
인데 제안 1을 사용하면 증명 끝이지?
위의 제안으로부터 $ \underset{ D}{max} V(D, G) $는 다음처럼 바뀐다.
$C(G)$의 global minimum이 달성 <=> $p_g = p_{data}$. 그리고 그 때 $C(G)$의 값은 $-log(4)$
$p_g = p_{data}$면 $D^*_G(x)=\frac{1}{2}$는 당연하고.. 이를 $C(G)$에 넣어보면
두번째서 세번째 넘어가는것만 보이자
이제 남은 건 G, D가 충분한 capacity일 때 GAN 알고리즘이 $p_g = p_{data}$를 achieve 하는가 증명인데…. 이건 패스
여기까지 보고 다시 위의 2 Binomial 예제를 Gibbs sampling으로 풀어보자!
사실 위의 예제는 너무 단순하긴한데… 그대신 쉬우니까…
동전던지기의 예제를 들어본다. $\theta_n$은 n번째 동전이 앞면이 나올 확률을 의미하는 parameter이며, 동전은 2개이다.
%matplotlib inline
import numpy as np
import matplotlib.pyplot as plt
data = [{'N': 7, 'z': 5},
{'N': 7, 'z': 2}]
def posterior(N, z, a, b):
return np.random.beta(z + a,
N - z + b)
thetas = [[0.2, 0.5]]
for i in range(100000):
idx = i % 2
theta = thetas[-1].copy()
theta[idx] = posterior(data[idx]['N'],
data[idx]['z'],
3,
3) # prior가 좀 세다. 1로 바꾸면 좀 더 data와 비슷하게 나옴을 알 수있다.
thetas.append(theta)
thetas = thetas[int(len(thetas)*0.1):] #burn-in
np_thetas = np.array(thetas)
x = np_thetas[:,0]
y = np_thetas[:,1]
plt.plot(x[:300], y[:300], '-o')
plt.show()
from mpl_toolkits.mplot3d import Axes3D
import matplotlib.pyplot as plt
fig = plt.figure()
ax = fig.add_subplot(111, projection='3d')
hist, xedges, yedges = np.histogram2d(x, y, bins=20, range=[[0, 1], [0, 1]])
xedges, yedges = np.meshgrid(xedges, yedges)
surf = ax.plot_wireframe(xedges[:-1,:-1],
yedges[:-1,:-1],
hist,
linewidth=1)
$\theta_1$과 $\theta_2$가 Highly correlated 면 왼쪽과 같은 그림이 되겠다. 이 때, 파라미터 업데이트는 오른쪽처럼 아주 작게 움직이겠다.