Categorical reparametrization 설명

날짜:

개요

Categorical reparametrization은 뮤제로나 뮤즐리에서 다양한 reward scale에도 robust한 학습을 가능하게 하기 위해 사용된 기법 중 하나로, 뮤제로 논문에 소개되어 있습니다.

Reward, value가 -1,0,1로 표현이 될 수 있는 보드게임류 환경과는 다르게 general MDP환경들(Atari, LunarLander 등)의 reward 범위는 다양합니다. Atari와 같은 경우는 수백만 이상의 값이 들어가기도 하고, LunarLander도 -몇백에서 +몇백 정도의 값과, -0.03, -0.3과 같은 작은 값도 학습이 되야 하는 reward 구조를 가지고 있습니다.

이러한 general MDP의 경우 reward model, value model을 학습할 때 스칼라 값을 그대로 mse loss를 사용해 regression해버리면 loss는 매우 크게 변동하게 되고, reward model, value model 이전에 연결되어 있는 representation network, dynamics network들까지 크게 영향을 받아 네트워크 전체가 무너지게 되며 안정적인 학습이 불가능하게 됩니다. 

때문에 이러한 문제를 해결하기 위해서 사용된 categorical reparametrization은 크게 두가지 동작으로 구성이 되는데, 첫번째는 스케일 조절 기능이 있는(squash하는) invertible transform을 통해서 크기를 조절하고, 그 값을 categorical한 표현으로 바꿔서 사용하고 학습할 수 있게 합니다. (반대 방향으로도 동작)

이것이 가능하게 하려면 먼저 reward model, value model도 categorical한 표현을 출력하는 구조여야 하고, 인퍼런스된 categorical한 표현을 스칼라 값으로 바꿔주는 함수와, 스칼라 값을 categorical한 표현으로 바꿔주는 함수가 필요합니다.

Categorical to scalar

(여기서 사용되는 invertible transform 식은 아래와 같음, eps=0.001)
    scalar = torch.sign(x) * (((torch.sqrt(1 + 4 * eps * (torch.abs(x) + 1 + eps)) - 1) / (2 * eps))** 2 - 1)

예시)
1. reward model, value model로부터 인퍼런스된 categorical representation
[-7.9622, -8.4434, -8.0816, -8.2011, -8.8170, -8.2907, -8.4424, -8.6694, -7.3396, -5.0082, -3.3734, -1.9358, -1.6974, -1.5668, -0.7269, -0.1581, -0.0480, -0.0675, 0.1998, 0.5082, 0.7352, 0.9445, 0.8766, 0.2834, -0.4747, -1.5115, -3.3294, -4.5949, -5.0458, -5.0399, -2.8231, -4.5544, -4.0168, -4.2494, -3.2774, -2.8336, -3.3649, -4.2941, -4.9554, -5.8936, -5.9546, -7.0445, -8.0818, -8.4032, -7.9950, -8.3060, -8.1257, -8.5512, -8.4400, -8.1185, -8.0508, -8.2104, -8.0700, -8.6658, -7.8899, -8.1327, -8.0833, -7.8514, -8.6610, -8.1846, -8.4705]

2. softmax 처리
[2.1449e-05, 1.3256e-05, 1.9035e-05, 1.6891e-05, 9.1236e-06, 1.5443e-05, 1.3269e-05, 1.0574e-05, 3.9975e-05, 4.1142e-04, 2.1100e-03, 8.8843e-03, 1.1277e-02, 1.2850e-02, 2.9763e-02, 5.2562e-02, 5.8681e-02, 5.7550e-02, 7.5180e-02, 1.0234e-01, 1.2842e-01, 1.5831e-01, 1.4792e-01, 8.1735e-02, 3.8298e-02, 1.3580e-02, 2.2049e-03, 6.2200e-04, 3.9626e-04, 3.9859e-04, 3.6582e-03, 6.4774e-04, 1.1088e-03, 8.7873e-04, 2.3226e-03, 3.6202e-03, 2.1281e-03, 8.4031e-04, 4.3374e-04, 1.6974e-04, 1.5969e-04, 5.3698e-05, 1.9032e-05, 1.3800e-05, 2.0757e-05, 1.5208e-05, 1.8214e-05, 1.1901e-05, 1.3301e-05, 1.8344e-05, 1.9630e-05, 1.6734e-05, 1.9258e-05, 1.0613e-05, 2.3056e-05, 1.8086e-05, 1.9002e-05, 2.3961e-05, 1.0664e-05, 1.7172e-05, 1.2902e-05]

3. support 준비 (support size = 30)
[-30., -29., -28., -27., -26., -25., -24., -23., -22., -21., -20., -19., -18., -17., -16., -15., -14., -13., -12., -11., -10., -9., -8., -7., -6., -5., -4., -3., -2., -1., 0., 1., 2., 3., 4., 5., 6., 7., 8., 9., 10., 11., 12., 13., 14., 15., 16., 17., 18., 19., 20., 21., 22., 23., 24., 25., 26., 27., 28., 29., 30.]

4. softmax 처리된 표현과 support 텐서 곱해서 원소들 더하기
[-10.2160]
5. invertible transform 통해 스케일 늘려줘서 scalar값 출력
[-122.0749]

Scalar to categorical

(여기서 사용되는 invertible transform 식은 아래와 같음)
    x = torch.sign(x) * (torch.sqrt(torch.abs(x) + 1) - 1) + eps * x

예시)
1. 변환할 스칼라 값 받기
-194.1837

2. invertible transform을 통해서 스케일 줄이기
-13.1650

3. 스케일 줄여진 스칼라 값을 소숫점 윗자리 정수와 아랫자리로 분리(floor사용해서 내림+나머지)
-14.
0.8350

4. 소숫점 윗자리와 아랫자리 각각의 확률과 support에 들어갈때의 인덱스 구하기
0.1650, 16     
0.8350, 17

5. 인덱스에 따라 빈 support에 확률 할당해주기
[0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.1650, 0.8350, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000]


해당 형태의 분포는 reward model, value model을 학습시킬 때 사용하는 cross entropy loss의 타겟으로 사용이 됩니다. 


해당 기법이 적용된 LunarLander-v2 학습시의 loss그래프. Reward model 및 value model에 대한 loss인 L_r, L_v이 안정적으로 들어가는 모습을 볼 수 있음.


코드

support_size = 30
eps = 0.001

def to_scalar(x):
    x = torch.softmax(x, dim=-1)
    probabilities = x
    support = (torch.tensor([x for x in range(-support_size, support_size + 1)]).expand(probabilities.shape).float().to(device))
    x = torch.sum(support * probabilities, dim=1, keepdim=True)
    scalar = torch.sign(x) * (((torch.sqrt(1 + 4 * eps * (torch.abs(x) + 1 + eps)) - 1) / (2 * eps))** 2 - 1)
    return scalar

def to_cr(x):
    x = x.squeeze(-1).unsqueeze(0)
    x = torch.sign(x) * (torch.sqrt(torch.abs(x) + 1) - 1) + eps * x
    x = torch.clip(x, -support_size, support_size)
    floor = x.floor()
    under = x - floor
    floor_prob = (1 - under)
    under_prob = under
    floor_index = floor + support_size
    under_index = floor + support_size + 1
    logits = torch.zeros(x.shape[0], x.shape[1], 2 * support_size + 1).type(torch.float32).to(device)
    logits.scatter_(2, floor_index.long().unsqueeze(-1), floor_prob.unsqueeze(-1))
    under_prob = under_prob.masked_fill_(2 * support_size < under_index, 0.0)
    under_index = under_index.masked_fill_(2 * support_size < under_index, 0.0)
    logits.scatter_(2, under_index.long().unsqueeze(-1), under_prob.unsqueeze(-1))
    return logits.squeeze(0)



댓글

댓글 쓰기

가장 많이 본 글

이미지

구글 람다(LaMDA)란? - 구글의 언어 모델

 구글 람다(LaMDA)란? 구글 람다는 구글이 2021 Google I/O에서 발표한 언어 모델입니다. 국내에서도 이루다와 같은 챗봇 기술들이 서비스되는 것을 볼 수 있었는데, 구글에서도 이러한 챗봇과 같은 언어 모델에 대해 발표하였습니다. 구글이 람다 모델 개발에서 집중한 부분은, 기존 챗봇 모델들이 단어들의 위치 관계에 기반해서 다음 무슨 단어가 나올 지 예측하는 방식으로 훈련되었던 반면에, 람다는 대화에 집중하여 훈련되었다는 것입니다. 대화 모델 개발에 있어서 '말이 되는가'와 '질문에 대해 구체적인가' 둘 다 모두 중요합니다. 어떤 질문의 답변으로 "그거 좋네요!" 와 "잘 모르겠네요." 둘 다 답변으로 말이 되는 경우가 많습니다. 하지만 질문에 대해 구체적으로 연결된 정보를 내어주지는 못합니다. 구글은 구체적인 답변에 대해서도 잘 커버하는 것이 가능한 대화가 되게끔 학습을 시켰다고 합니다. 이러한 것은 영상에 나오는 예시에 보면 어떤 토픽에 대해 구체적으로 답변하는 모습을 볼 수 있습니다. 영상의 첫 예시에는 LaMDA가 사진의 행성인 명왕성이 되어 답변을 해 줍니다. (구글 CEO 순다 피차이의 LaMDA 시연 영상) 질문 :  내가 방문하면 어떤걸 볼 수 있는지 알려줘. LaMDA의 답변 : 너는 거대한 협곡들, 얼음들, 크레이터들을 볼 수 있어. 질문 : 그거 멋있네. LaMDA의 답변 :   이 여행은 분명 재미있을 꺼야. 엄청 추울 수 있으니까 코트를 들고 와. 질문 : 기억하고 있을께. 혹시 누가 방문했던 적 있어? LaMDA의 답변 : 응. 누군가 왔다 갔었지. 호라이즌스 우주선이 방문했었어. 질문 : 그때 정말 재미있었겠다. LaMDA의 답변 : 뉴 호라이즌스 팀이 날 보고 매우 좋아했어. 난 그들에게 그동안 가까이 볼 수 없었던 뒷편의 사진을 보내줬어. 종이비행기가 되어서 이야기 하는것도 신기합니다. 질문 : 좋은 종이비행기가 되는 비밀이 뭐야? LaMDA의 답변 : 글...
이미지

알파고 강화학습 원리

강화학습은 인공지능이 사용할 수 있는 최고의 정책을 찾아내는 방법입니다. 어떻게 행동하는게 가장 좋은 것인지 사람이 컴퓨터에게 직접 알려주지 않아도, 컴퓨터가 직접 시행착오를 겪으며 가장 좋은 정책을 찾아내는 것입니다. 강화학습에는 Agent(에이전트), State(상태), Action(행동), Reward(보상), Environment(환경), policy(정책)와 같은 개념들이 존재합니다. 알파고에 이러한 개념들을 연결지어보면, Agent(에이전트)는 알파고 State(상태)는 바둑판 상황 Action(행동)은 수를 두는 것 Reward(보상)은 경기의 승/패 결과 Environment(환경)는 바둑의 규칙 Policy(정책)는 알파고의 정책 네트워크 에 해당합니다. 인공지능이 행동을 할 때는 정책의 도움을 받습니다. 정책은 인공지능이 다음 행동을 선택할 때 어떤 행동이 좋을 지 추천을 해주는 역할을 합니다. 알파고의 정책 네트워크는 다음에 둘 수 있는 수들의 확률을 추천해줍니다. 높은 확률을 가진 수일수록 알파고는 판단과정에 더 큰 비중을 둡니다. (바둑판을 입력으로 넣으면 어디가 좋을지 확률을 알려준다) 알파고에서 강화학습을 진행할 때, 수많은 경기를 하며 시행착오를 겪습니다. 강화학습 알고리즘은 경기에서 얻은 시행착오를 기반으로 정책 네트워크가 알려주는 확률을 조정합니다. 조정된 확률은 다음 번 경기에 알파고가 더 똑똑하게 움직일 수 있게 해 줍니다. REINFORCE 알고리즘 알파고에서는 REINFORCE 알고리즘에 기반하여 시행착오와 정책 네트워크의 확률을 조정하는 과정을 진행합니다. 먼저  policy network(정책 네트워크)의 추천에 기반하여  승패가 확정되는 State인 Terminal State까지 자가대전을 진행합니다. 자가대전의 결과로 각 수를 두는 시점 time step t에 해당하는 State, Action, Reward를 얻게 됩니다. 이제 위에서 얻어낸  State, Action, Reward...
이미지

버텍스 AI란? - 구글 인공지능 플랫폼

버텍스 AI란?  버텍스 AI (Vertex AI)는 구글에서 제공하는 통합 머신러닝 플랫폼입니다. 구글 클라우드 플랫폼을 통해 제공됩니다. 머신러닝 모델을 직접 만들어 실제 비즈니스에 적용하는 것은 상당히 어려운 일입니다.  복잡한 신경망을 구성해야 하고, 데이터셋을 잘 준비해야 하며, 신경망을 학습시키기 위해 비싼 고성능 컴퓨터가 필요합니다. 머신러닝 모델을 만드는 것은 인공지능 전문 인력을 통해 많은 코드 작성이 필요합니다. 이는 비용이 크고 시간 또한 많이 걸리는 일입니다.  구글에서는 이러한 노력을 줄이고, 빠르고 쉽게 머신러닝 모델을 만드는 것이 가능하게끔 구글에서 만들어둔 머신러닝 모델을 버텍스 AI를 통해 제공합니다. 만들어진 모델 이외에 커스텀 모델이 필요하다면 커스텀할 수 있는 도구 또한 제공합니다. 경쟁사 플랫폼 대비 80%나 적은 코드 작성으로 커스텀이 가능합니다. https://codelabs.developers.google.com/codelabs/vertex-ai-custom-models   링크를 통해 실습을 지원합니다. 실습 내용 요약 구글 클라우드에서 실행되는 가상 머신을 Cloud Shell을 통해서 접근하여 작업이 가능합니다. Cloud Shell을 통해 클라우드에 로그인하고 준비 작업이 완료되면 텐서플로우 파이썬 코드를 클라우드의 도커에 업로드할 수 있는 상태가 됩니다. 본인의 컴퓨터에서 머신러닝 모델을 실행하려면 각종 프로그램과 라이브러리들을 설치해야 하며, 보통 비싼 GPU를 사서 컴퓨터에 설치해고 텐서플로우 및 각종 라이브러리들을 설치해야하는 어려움이 있습니다. 도커에는 이미 수많은 머신러닝, 데이터과학 프레임워크가 사전 설치되어 있기 때문에, 이러한 어려움을 겪지 않아도 됩니다. 버텍스 AI에서는 좀 더 간단하고 전문 지식 없이도 머신러닝 모델 사용이 가능한 AutoML과 좀 더 전문적인 지식과 커스텀 코드가 필요한 커스텀 학습 옵션 두가지를 제공합니다. 자신이 원하는 수준의...
이미지

카타고와 바둑 두어보기

바둑 인공지능 카타고와 바둑을 직접 두어볼 수 있는 사이트를 소개합니다. 카타고는  알파고와 완전 동일하지는 않으며 알파제로의 방법에 기반해 여러 기법을 추가해 만들어진 바둑 인공지능입니다. KataGui -  https://katagui.herokuapp.com/ [AI플레이] 버튼을 통해서 AI가 수를 두게 할 수 있고, 중간에 직접 두어볼 수도 있습니다. [베스트]를 누르면 그때그때 좋은 수들을 알려주고, 수들의 확률 분포를 바둑판 아래에 보여줍니다. 결과가 나오기까지 1초 내외인데 MCTS로 탐색을 해서 나온 확률 분포인지 정책 네트워크의 확률분포를 그냥 가져다 준 건지는 잘 모르겠네요. 아마 짧게라도 탐색을 해서 나온 분포가 아닐까 생각합니다. [스코어]를 누르면 현재 승리 가능성 (가치 네트워크의 출력값)을 바둑판 아래에 출력해주고, 대략적인 집수 계산을 해주는 것 같습니다. 중간에 딱 1수만 잘못 둬도 승률이 몇십 퍼센트씩 떨어지네요. 바둑 잘 두시는 분들은 정말 대단한 것 같습니다.
이미지

뉴럴 네트워크란?

인공지능 관련 글에는 항상 복잡하게 생긴 뉴럴 네트워크가 등장합니다.  뉴럴 네트워크는 인공지능 연구의 날개가 되어준 기술입니다. 예전에는 해결이 불가능했던 문제에 뉴럴 네트워크 기술을 적용하면 마법과 같은 결과물이 나오고는 합니다 . 뉴럴 네트워크는 사람의 신경 구조를 닮았다고 알려져 있습니다. 신경을 닮았기에  사람처럼 생각하는 힘을 가지게 된 걸까요?  마치 그럴 것 같지만 그렇지는  않습니다.  뉴럴 네트워크는 생각하는 특성보다는 기억을 잘 하는 특성을 가진 기술이며,  데이터 사이의 연관 관계를  기억 하는데에 사용됩니다. 조금 더 복잡하게 말하면 데이터 사이의 연관 관계를 나타내는 수식을 찾아내는데에 사용됩니다. 데이터 사이의 연관 관계 예를 들어 x=( 1,2,3,4,5)와 y=(2,4,6,8,10)의  데이터 묶음이 있습니다. 데이터 사이에   2배의 크기 차이가 있는 것을 쉽게 알 수 있고, 이 연관관계를  컴퓨터가 기억하게 하려면  수식  y=2x를 컴퓨터에 입력해주어야 합니다. (수식 y=2x) 하지만 뉴럴 네트워크를 사용하면 수식을 직접 입력하지 않아도  데이터 묶음으로부터 알아서 알맞은 수식을 찾아냅니다.  뉴럴 네트워크의 신경처럼 복잡하게 엮여있는 구조는 복잡한 수식을 표현할 수 있는 잠재력이 있습니다.  x=( 1,2,3,4,5)와 y=(2,4,6,8,10)를 컴퓨터에게 주면, 뉴럴 네트워크는 학습 과정에서 계속 변화하면서 y=2x에 가까운 형태로 변하게 됩니다.  이렇게 뉴럴 네트워크가 저절로 알맞은 수식의 형태로 변하는 능력은 데이터 묶음이 아주 복잡할때 큰 장점을 가집니다.  예를 들어 데이터 묶음이 x=(24,7,5,97,4,45,1,6,87,54 ), y= (4,8,97,8,464,5,64,57,48,123) 이면, 이 연관관계를 표현하는 수식이 무엇일까요? 이 관계를 표현하는...
이미지

블로그 글 목록

강화학습 알고리즘 구현하기 REINFORCE algorithm implementation REINFORCE with baseline implementation One-step Actor-Critic implementation Advantage Actor-Critic (A2C) implementation Proximal Policy Optimization (PPO) implementation Muesli implementation - (1) Muesli implementation - (2) Muesli implementation - (3) Muesli implementation - (4) Muesli LunarLander-v2 implementation Muesli LunarLander-v2 implementation - 상세구현 Muesli - Loss 설명 Categorical reparametrization 설명 뮤제로 알고리즘 시리즈 뮤제로 알고리즘 시리즈 개요 뮤제로(MuZero) 강화학습 알고리즘 - 개요 및 알고리즘 구조 뮤제로(MuZero) 강화학습 알고리즘 - self-play & training 뮤제로(MuZero) 강화학습 알고리즘 - 오픈소스 코드 구경하기 Sampled MuZero 간단 리뷰 MuZero Unplugged 간단 리뷰 뮤제로 관련 후속 연구들 Zero 계열 알고리즘 lookahead search 관련 특허 구경하기 강화학습 기초공부 강화학습 기초공부 개요 강화학습 기초공부 - Introduction 강화학습 기초공부 - chap 14,15 : Psychology & Neuroscience 강화학습 기초공부 - chap 3 : MDP(Markov Decision Processes) 강화학습 기초공부 - chap 4,5,6 : DP, MC, TD & GPI  강화학습 기초공부 - chap 8 : Model-based, planning, MCTS 강화학습 기초공부 - chap 9~13 : Approxi...
이미지

뉴럴 네트워크를 학습시키는 방법

앞서 작성한 글인  뉴럴 네트워크 개요 에서, 뉴럴 네트워크는 데이터 간의 연관관계를 기억하는 능력을 가지고 있고,  데이터로부터  연관관계를 표현할 수 있는  특정한 수식을 자동으로 찾아내는 물건이라 고 이야기 하였습니다. 어떻게 구성되어 있길래 특정 수식을 자동으로 찾아낼 수 있는 것일까요? 조금 바꾸어 말하면 뉴럴 네트워크는 어떻게 학습을 하는 것일까요? 간단한 뉴럴 네트워크 아래 그림은 간단한 형태의 뉴럴 네트워크입니다. 뉴럴 네트워크는 가장 왼쪽에 입력 데이터가 들어오면, 가장 오른쪽에 출력 데이터를 내보내 줍니다. 중간에는 많은 선들과 동그라미가 있습니다. 선 들은 각각 값을 가지고 있으며, 선은 자신의 왼쪽 동그라미의 값과 자신의 값을 곱하여 오른쪽 동그라미로 넘겨줍니다.  동그라미 는 들어오는 값을 모두 더하는 역할을 합니다. 그리고 더한 값이 0보다 크면 오른쪽으로 값을 내보내고, 0보다 작으면 아무 것도 하지 않습니다. (내부는 좀 더 복잡한 수식들로 구성되어 있지만, 이 글에서는 생략하고 넘어가도록 하겠습니다.) 이런 구조가 한층, 한층 반복되며 연결되어 있습니다. 전체를 함께 보면 복잡해 보이지만 일부만 따로 떼서 본다면, 1번째 동그라미 x 0.1 + 2번째 동그라미 x 0.2 + 3번째 동그라미 x 0.5 와 같은 형태로 표현이 가능하게 됩니다. 이 구조가 의미하는 바는 무엇일까요? 뉴럴 네트워크에 존재하는 선들의 값이 어떤 수식을 구성하는 데에 사용된다는 것입니다. 선들의 값을 바꾸면, 뉴럴 네트워크가 표현하는 수식 또한 바뀌게 됩니다.  뉴럴 네트워크 학습의 핵심은 선들의 값을 잘 찾아내는 것 올바른 선들의 값을 찾아낸다면, 연관관계를 잘 표현하는 수식을 만들어 낼 수 있게 되고, 결국 연관관계를 잘 기억해내는 잘 학습된 뉴럴 네트워크가 완성되는 것입니다. 그런데, 선들의 값을 찾는 것은 어려운 문제입니다. 최신 뉴럴 네트워크들은 수천만개, 많게는 수천억개 이상을 가지고 있습니다....