[AI Book Review #5] 우리 뇌는 어떻게 창조하는가

읽으면 읽을 수록 강화학습에서 차용이 가능한 아이디어가 샘솟는 느낌이다. 특히 수렴적 사고와 확산적 사고의 적절한 줄타기를 통해 창의적인 아이디어를 만들어 낼 수 있다는 내용이 인상적이었다.

뇌의 통계 학습이란 무엇인가?

• 효율적으로 갈기 위한 뇌의 시스템
• 우리 뇌는 편해지고 싶어 한다.
• 통계 학습은 우리 주변에서 일어나는 다양한 현상의 확률을 자동으로 계산해 정리하는 뇌의 기능이자 시스템이다. 인간은 뇌의 통계 학습을 통해 불안정하고 불확실한 현상의 확률을 계산함으로써 주변 환경의 확률 분포를 정확히 파악하려 한다. 그것을 파악하면 다음에 어떤 일이 어느 정도의 확률로 일어날 수 있는지를 예측하기 쉬워지기 때문이다.
  • 내가 교육할 때 썼었던 우리 뇌에도 모델이 존재하는 것과 일맥상통하는 의견 같음. 결국 모델이라는게 확률(통계) 머신이라고 설명해도 되려나
  • 그니까 결국 내가 뇌는 에너지를 적게 쓰는 방향으로 진화를 하게 됐고 그 결과, 모델을 갖게 되면서 세상을 예측을 하게 됬다고 설명한 것과 똑같네.

뇌는 전이 확률과 불확실성을 학습한다.

• 전이 확률이란 ‘다음에 무엇이 올까’의 확률
• 뇌는 대체 무엇을 학습할까?
  • 뇌의 통계 학습에서는 전이 확률과 전이 확률 분포의 정보 엔트로피(불확실성)를 계산한다. 이 전이 확률과 정보 엔트로피가 통계 학습의 포인트이다.
• 우리는 정보가 복잡해 예측하기 어려운 쪽을 ‘정보 엔트로피가 높다’라고 말한다.

뇌는 불확실성이 낮은 정보를 압축한다

• 청크(압축)로 최대한 뇌를 비운다.
• 뇌는 전이 확률이 높은 정보(불확실성이 낮은 정보)의 덩어리를 청크한다. 이 청크는 훈련이나 연습을 반복(숙련도를 높임)으로써 발생한다.
  • GPT의 학습법이 다음 토큰을 예측하는 건데, 이걸 계혹 반복함으로써 언어에 대한 불확실성을 낮추는 작업을 한다고 이해하면 될 듯 하다.
  • ToT 페이퍼에서 언급했던 System1 의사결정하고 유사한 것 같은데?
• 청크는 자고 있을때 일어난다. 우리는 자고 있을 때 통계 학습을 통해 뇌의 해마에 일시적으로 보존하고 있었던 통계 정보 중에서 필요한 자료만 선별한다. 그 후 필요한 자료를 압축하고 장기 기억으로 보내는 작업을 하고 있다.

통계 학습에서 창작에 이르기까지

• 통계 학습은 오랫동안 수수께끼에 싸여 있었다.
• 통계 학습은 기본적으로 무의식중에 시행되는 학습으로 인식되고 있다. 그래서 무의식 학습 또는 잠재 학습이라고 부르기도 한다.
• 잠재 기억: 사람의 기억은 대부분 잠재 기억으로 구성되어 있다. 잠재기억이란 머릿속에 있다는 사실을 본인도 깨닫지 못하고 있는 기억을 가리킨다.
  • 절차 기억: 몸으로는 기억하지만 말로는 설명하기 어려운 기억 ex. 자전거
  • 점화 기억: 점화 기억은 직전의 사건이 이후의 사건에 영향을 끼치는 기억을 말한다. (ex. 세종대왕 세종대왕 세종대왕.. 세종대왕이 만든 배는? 거북선!)
• 현재 기억: 현재 기억은 말로 설명할 수 있는 기억, 기억하고 있음을 본인이 깨닫고 있는 기억
  • 의미 기억: 의미 기억은 물건의 이름이나 단어 등 모두가 공유할 수 있는 기억
  • 일화 기억: 일화 기억은 각각의 실제 경험을 통한 기억
• 많은 뇌과학자가 창의력의 원천이 기억력이며, 창의성은 기억의 결과물이라고 말한다. 창의성도 결국 기억된 것을 바탕으로 이루어지는 것이므로 이해하는 것만으로는 부족하다. 충분한 기억이 쌓여야 비로소 창의력도 생기게 된다.

뇌는 몰랐던 것을 알게 되는 순간을 좋아한다

• 가치 있는 정보만을 의미 기억으로 삼는다.
• 먼저 사람은 뇌의 통계 학습을 통해 주변에서 일어나는 다양한 현상과 사건으로부터 전이 확률을 자동으로 계산한다. 계산 자체는 우선 단기 기억에 저장되는데 이때 확률이 낮은 정보는 머릿속에서 사라지게 되고 확률이 높은정보만이 추출되어 장기 기억에 저장된다. 이것은 확률이 높은 정보란 다른 사람과도 공유할 수 있는 정보이기 때문이다.
  • 공유 할 수 없는 나만의 특별한 일이나 감정도 잘 기억에 남지 않나?
• 인간의 뇌가 학습할 때 모든 것을 완전히 이해한 상태보다도 오히려 몰랐던 것을 알게 되는 순간에 더 큰 느낌을 느낀다.
• 요컨대 최적의 환경은 불확실성이 0인 환경이 아니라 불확실성을 낮출 가능성이 있는 것이다.
• 인간이 예술이나 창조에 흥미를 느끼는 이유는 추상적으로 표현된 예술이나 창의적인 작품에서 어떤 법칙성을 찾거나 자기 나름의 해석을 하려고 시도하기 때문인지도 모른다.
• 
• 절차 기억은 인간 이외의 모든 동물에게 있는 뇌의 기저핵이나 소뇌에서 만들어진다고 본다.
• 일화 기억이 강하게 관여하는 개성이나 창조성이야 말로 인간다움의 가장 큰 특징임을 알 수 있다.
• 다만, 일화 기억을 생성하기 위해 반드시 의미 기억이 필요하듯이 새로운 불확실한 것을 만들어내려면 먼저 기존 정보의 불확실성을 낮출 수 있을 만큼 낮춰 놓아야 한다.
  • 결국 일단은 머릿속에 많이 때려 넣어놔야 한다는 건가
• 그리고 자신의 개성과 창조성을 키우기 위해서는 압축과 의미 기억의 보존을 통해 뇌가 처리할 수 있는 빈 용량을 늘려 놓아야 한다. 다시 말해 일화 기억만으로는 절대 개성이나 창조성, 독창성이 만들어 지지 않는다. 일화 기억과 의미 기억 생성이 연쇄적으로 이루어져야만 가능한 것이다.
• 우리 인간의 뇌 속에서는 새로운 것을 이해하고 모델화해 알기 쉽게 만들자는 의미 기억의 욕구와 아직 모델화되어 있지 않은 새로운 것을 창조하고 싶다는 일화 기억의 추구 사이에 각축을 벌이고 있다.
• 이러한 싸움이 통계 학습을 통해 계산하는 불확실성에 흔들림을 만들어내며, 이러한 흔들림이야 말로 인간의 행동이나 사고, 의욕 등에 영향을 끼치고 개성과 창조성으로 이어지는 것이다.

흔들림은 개성과 창조성의 씨앗이 된다.

벗어남을 벗어남으로 인식하는 힘이 중요하다

• 인간은 흔들림의 세계를 즐긴다.
• 불확실성이 오나전히 낮아진 정보에 대해서는 더 이상 흥미를 느끼지 않게 된다.
• 불확실성이 최대한으로 낮아진 정보에서는 그 이상의 기쁨과 보상을 얻을 수 없기 때문이다.
• 뇌의 통계 학습에는 불확실성을 낮추고 싶다는 바람과 불확실한 정보에 대한 흥미라는 상반되는 두가지 힘이 존재한다.
• 전문가는 아주 약간의 벗어남도 인식할 수 있다.
• 벗어남과 수정을 적절히 이용해 미묘한 흔들림을 만들어낼 줄 아는 것이다.
• 벗어남을 벗어남으로 올바르게 인식할 수 있기에 의도적으로 벗어나게도 연주할 수 있다.
• 수없이 많은 무료한 반복 속에서 엉뚱하고 기발하고 신선한 창조가 이루어진다.
• 본질을 아는 것은 본질을 익히는 것.
• 독창성(originality)은 근원(origin)으로 돌아가는 것에서 비롯된다.
• 아마도 창의력이 풍부한 사람은 자유분방하게 성장했으리라 생각할 것이다. 그러나 실제로는 기본적인 학문이나 본질적인 교육을 엄격하게 받은 경우가 많다고 한다.

의욕이나 지적 호기심이 중요한 이유는?

• 익숙한 것만 접하면 뇌는 쉽게 싫증 난다.
• 문제 해결을 위한 수렴적 사고와 확산적 사고
• 수렴적 사고는 어떤 문제에 관해 유일한 해답을 추구하는 것. 이는 논리적이며 구체적인 사고와도 밀접한 관련이 있다.
  • 답이 하나밖에 없는 수학 문제를 풀거나 목적지로 가는 최단 거리를 생각할 때, 회의에서 여러 가지 아이디어 중 어떤 한 가지를 결정할 때와 같은 상황이 수렴적 사고에 해당한다.
• 확산적 사고는 유일한 해답을 추구하지 않고 새로운 발상을 무수히 확신시켜 나가는 사고를 가리킨다. 확산적 사고를 할 때는 논리나 실제로 이루어질 가능성을 따지기보다 일단 최대한 여러 가지를 생각해야 한다.
  • 논리나 실제로 이루어질 가능성을 따지기보다 일단 최대한 여러 가지를 생각해야 한다.
  • 예술 작품의 창작이나 새로운 아이디어의 제안 등이 여기에 해당
• 창조성에는 2가지 다 중요하다.
• 
  • 마치 강화학습의 아키텍처 같다.
• 불확실성을 낮추는 통계 학습 -> 수렴적 사고
• 불확실성을 높이는 통계 학습 -> 확산적 사고
  • RL에서도불확실성을 높이는 학습 방식을 고안해보면 어떨까?
• 흔들림과 관련 있는 세 가지 신경 네트워크
  • 디폴트 모드 네트워크: 자유롭고 창조적인 사고나 확산적 사고를 하고 있을 때 이 신경 네트워크가 강하게 활동한다.
  • 중앙집행기능 네트워크: 집행제어 네트워크. 인간 최고의 사고, 감정 행동을 조정하는 회로로, 아이디어의 평가나 논리적 사고, 수렴적 사고를 하고 있을 때 활동한다.
  • 현출성 네트워크: 뇌의 피로와 회복을 위해 외부정보를 자각하는 회로로, 디폴트 모드 네트워크와 중앙 집행 기능 네트워크를 연결하는 접착제 같은 역할

번뜩이는 영감은 어떻게 만들어지는가

• 창조적 발상과 월러스의 4단계
  • 1 준비 단계: 문제 확인과 정리, 다양한 해결책 제시
  • 2 부화 단계: 일단 문제에서 벗어난다
  • 3 발현 단계: 아이디어가 번뜩인다.
  • 4 검증 단계: 아이디어의 검증과 조사
• 흔들림의 열쇠는 부화 단계
  • 사람의 기본적으로 4단계 가운데 준비 단계와 발현 단계에서 문제에 대한 해결책을 찾아내려 한다. 그런데 왜 준비 단계에서 떠오르지 않았던 해결책이 발현 단계에서 떠오르는 것일까?
  • 부화 단계에 그 힌트가 있다. 부화 단계를 거치지 않는다면 준비 단계와 발현 단계 사이에서 사고의 변화가 생기지 않을 수 있다.
    • 상사의 말이 떠오른다. 일단 뭐라도 해서 결과를 보라고. 근데 나는 우리는 아직 1단계인데 왜 갑자기 4단계를 하라고 하는건지? 라는 생각이 들어서 의아했던 것 같다.
• 산책하거나 멍하니 있는 것이 좋은 이유
  • 부화 단계에 뇌가 무엇을 하는지는 최근 이뤄지는 창조성 연구에서 가장 중요한 주제라고 해도 과언이 아니다.
  • 여기서 해답의 실마리가 되는 것으로 마음 방황(mind wandering)이 있다.
  • 마음 방황은 이른바 마음이 콩밭에 가 있는 상태로, 현재 하고 있는 것과 관련되지 않은 무언가를 생각하는 것이다.
  • 어떤 문제를 해결하고 싶을 때 줄곧 그것만을 생각하기보다 일단 그 문제에서 벗어나 산책하거나 멍하니 있는게 좋다
• 문제로부터 일단 벗어나는 것이 중요하다
  • 벗어나는 방법은 산책, 명상 이런 것 밖에 없나? 독서라든가 게임은?
  • 영감은 그 사람의 숨겨진 재능이 꽃을 피우는 순간이라고 한다. 그래서 영감을 어떤 특별한 재능을 지닌 사람에게만 찾아오는 것으로 생각하는 경우가 많을 것이다.

AI가 잘하는 것과 인간이 잘하는 것

• AI는 수렴적 사고를 대행한다.
• AI보다 인간이 잘하는 것
  • 인공지능은 단순히 말해 인공적으로 만든 지능이다. 이 지능은 4장에서 말하는 유일하고 최적인 해결책을 추구하기 위한 수렴적 사고(불확실성을 낮추는 통계 학습)가 특기다.
• 인간에게는 흥미와 호기심이 있다.