GNN의 표현력은 어느 정도일까? The graph assumes all the nodes share the same feature. 그래프에서 노드의 색상이 피처를 나타낸다고 가정해봅시다. 위 그림의 그래프는 모든 노드가 같은 피처를 갖고 있습니다. GNN은 이런 그래프에서 서로 다른 그래프 구조를 얼마나 잘 구분할까요? 우선 그래프에서 각 노...

GNN 학습 파이프라인 GNN 학습 파이프라인은 위 그림과 같이 생겼습니다. 지금까지 다룬 내용은 입력 그래프부터 노드 임베딩까지의 내용이고, 본 포스트에서는 예측과 관련된 내용을 다루고자 합니다. Different task levels require diffennt prediction heads 우선 다양한 예측 헤드가 있습니다. 예측 태스크...

GNN의 싱글 레이어 GNN Layer GNN 레이어는 다음의 두 과정을 통해 이웃 노드의 여러 벡터 집합을 단일 벡터로 압축합니다. 각 노드의 벡터를 메시지로 변환 변환된 메시지를 집계 메시지 계산(Message Computation) 메시지로 변환하는 함수는 다음과 같습니다. [m_u^{(l)} = \text{MSG}^{(l)...

들어가며 본 포스트에서는 그래프 뉴럴 네트워크(GNN) 을 기반에 둔 딥러닝 기법에 대해서 다룹니다. 지난번 포스트에서 다루었던 인코더로 GNN을 표현하자면 그래프 구조에 기반한 비선형 변환의 레이어를 겹겹이 쌓아둔 것이라고 할 수 있습니다. 이러한 구조를 이용해 노드 분류, 링크 예측, 커뮤니티 검출, 네트워크 유사도 등 다양한 다운스트림 태스크를...

어쩌다가 블로그 새 단장을 했습니다. 원래는 TeXt 테마를 1년 넘게 잘 사용하고 있었습니다. 별 문제도 없는 테마였고, 제가 원하는대로 카테고리나 태그 등을 추가해서 관리 중이었죠. 그러다가 어제 밤에 꽤 괜찮은 테마를 찾게 되었습니다. Chirpy 라는 테마인데요. 가장 마음에 들었던건 다크 모드 토글 버튼이 있다는 점입니다. 제가 저걸 구현...