물이 되는 꿈

데이비드 N. 스퍼겔 이 대담을 진행하면서 보르헤스가 쓴 이야기 가 떠올랐습니다. 이 이야기에서 푸네스는 모든 것을 기억하지만, 그로 인해 그것들을 구분하지 못하는 인물입니다. 예를 들어, 어떤 순간의 개와 다음 순간의 개가 같은 동물이라는 사실을 이해하지 못합니다. 이점은 우리가 머신러닝을 위해 신경망을 다룰 때 네트워크가 무엇을 학습했는지 묻는 것과 비슷합니다. 머신러닝에서 가장 중요한 개념은 무엇일까요? 기억을 어떻게 보관하고 일반화하는지가 핵심입니다. 예를 들어 '개'라는 객체를 어떻게 일반화할 수 있을까요? 이를 위해서는 망각의 개념이 필요합니다. 우리 두뇌는 끊임없이 기억할 가치가 있는 것과 잊을 필요가 있는 것을 선택합니다. 지금 이 방에 대한 엄청난 양의 데이터가 우리의 눈에 들어오지만, ..