Universal approximation theorem 관점에서 뉴럴 네트워크 이해하기

뉴럴 네트워크가 충분한 구조(깊이, 너비 등)를 갖추면 어떠한 함수도 충분히 근사화해 표현하는게 가능하다는 이야기로 보입니다.

Universal approximation theorem

Universal approximation theorem - Wikipedia

Cybenko's theorem(시벤코 정리)

뉴럴 네트워크의 너비, 깊이 관점에서 바라보는 연구들

[1905.08539] Universal Approximation with Deep Narrow Networks (arxiv.org)

[1709.02540] The Expressive Power of Neural Networks: A View from the Width (arxiv.org)

시각적인 자료가 잘 되어있는 사이트들

http://neuralnetworksanddeeplearning.com/chap4.html

https://machinelearningmastery.com/neural-networks-are-function-approximators/

글 목록