Blog

Paper Link: https://arxiv.org/abs/1511.05678 분류 모델의 decision boundary가 히든 레이어의 activation간 조합이 아닌, activation boundary의 조합으로 결정된다는 논문. 이후 서울대 최진영 교수님 팀에서 AAAI2019에 퍼블리쉬한 'Knowledge Transfer via Distillation of Activation Boundaries Formed by Hidden Neuron'의 모티브가 됨.

Paper Link: https://arxiv.org/abs/1801.01203 Official Link: https://meltdownattack.com Idea: cache slide channel attack + speculative execution cache slide channel attack 캐시에 블록이 저장돼있다면, 그 블록에 대한 메모리 접근 시간이 매우 짧고 블록이 캐시에 없으면 블록에 대한 메모리 접근 시간이 길다는 점을 이용한 것이다. 그래서, attacker process가 1이라는 데이터를 다른 프로세스에게 전달하려고 할 때 1을 특정 메모리 공간에 저장하는 것이 아니고, 1이라는 주소를 접하여 1이라는 주소에 대한 cache location에 블록이 저장되도록 한다. 그러면 ..

Paper Link: https://arxiv.org/abs/1611.01232 - mean field theory를 이용해 randomly initialized된 untrained neural network의 behavior를 연구함 - signal propagation의 maximum depth가 존재함을 보임 - information이 network의 끝까지 전파되면 잘 훈련됨을 practical하게 보임 - 즉, depth scale은 network를 얼마나 깊게 할 수 있는 지에 대한 bound를 보여줌 - 그런데 depth scale이 발산할 수도 있음 - 발산하면 정보가 끝까지 잘 전파되지 않아 학습이 잘 안됨 - dropout을 쓰면 critical point(?)를 파괴해, random ..