안녕하세요 임창록입니다 안녕하세요 임창록입니다

Introduction to neural architecture search (NAS) What is NAS? layer, channel, kernel size, connectivity, resolution을 일일히 사람이 정하던 것에서, 자동으로 설정되게 하려는 시도다. 가운데 표시가 *인 것들이 NAS기반 모델이고, 굉장히 좋은 성능을 내는걸 볼 수 있다(좌상단일수록 좋은 성능) NAS는 기본적으로 위와 같은 구조로 되어있다. 연산들이 들어있는 Search Sapce에서 적용할 연산을 고르고, search starategy에서 연산을 고른다.(어떻게 찾아낼 것인지) 그런 뒤 performance estimation strategy에서 성능 평가를 함(어떻게 평가할 것인지) Search space ne..

https://github.com/fuzhenxin/Style-Transfer-in-Text 위의 깃헙에서 봤던 논문들과 한국 저널에 발표된 논문들을 참고해 아이디어들을 정리해봤다. Task 출처 :Multiple-Attribute Text Style Transfer(2019) Text Style Transfer(이하 TST)는 문장의 내용(content)은 보존하면서 스타일(style)을 바꾸는 작업이다. 이 때, style은 긍부정, Formality, Politeness, Gender 등이 해당된다. 위 그림을 보면 이해가 빠를 것이다. Approach TST 문제를 해결하는 방식은 크게 세 가지이다. parallel supervision non-parallel supervision unsuperv..

k8s VM은 호스트OS-하이퍼바이저-게스트OS 컨테이너는 호스트OS-컨테이너런타임-컨테이너(=프로세스) 컨테이너 여러개 사용할때 문제 = 컨테이너 사이 통신 / 가용성 확보(부하분산) / 다중화 고민 / 가상머신에 장애가 생기면? 쿠버네티스 = 데이터 플레인(서비스 사이 네트워크 트래픽 관리하는 서비스 메시) 서버를 여러대 실행시켜, 가상 오케스트레이션 계층을 구축하고 거기에서 컨테이너가 동작한다. 그러면 컨테이너 그룹을 하나의 큰 머신 리소스로 추상화 가능. 컨트롤 플레인으로 어떤 머신에서 동작시킬지 / 정지시킬지 판단가능 파드 = 쿠버네티스 최소 단위. Pod 하나 안에서는 하나 이상의 컨테이너 동작 가능. 어떤 컨테이너 이미지 쓸 지 설정함 레플리카셋 = 파드를 얼마나 동작시킬지 관리. 디플로이먼..

에코서버란? 에코 서버는 사용의 입력을 그대로 돌려주는 서버를 말한다. 이번 포스팅에서는 쿠버네티스 설정에 더 집중하고 싶어서, 입력 없이 단순히 hello world라는 문자열만 돌려주게 했다. 쿠버네티스 설정 데스크탑에 VirtualBox를 설치한 뒤, On-premise처럼 직접 노드들을 만들었다. 쿠버네티스는 1.24 버전을 설치했다. 설치하는데 정말 애를 먹었다. 계속 "did you specify the right host or port?"라는 에러에 시달렸다. 정말 며칠동안 해결을 하지 못하다가, admin.conf 설정과 systemd, containerd등을 잘 맞추고, 설치하는 쿠버네티스 버전을 1.24로 내린 뒤 해결했다. containerd 공식 홈페이지를 가보니 쿠버네티스 1.24..

현재 상태 9월 말에 마지막 글을 썼는데, 2월이 되어서야 새 글을 쓴다. 약 4달만이다. 4달동안 나는 대학생에서 직장인이 되었고, 기타를 다시 한대 샀으며, 글또라는 모임에 가입했다. 글또가 아니었다면 블로그에 다시 글을 쓰지 않았을 것이다. 블로그 포스팅은 항상 해야한다고 생각하면서도 하지 않는 대표적인 일이니까. 23년에는 무슨 글을 쓰면 좋을까 생각하며 블로그를 다시 둘러보았다. 논문이나 강의를 읽고 정리한 내용이 대부분이고, 내가 스스로 개발하며 겪은 스토리는 없다. 삭막한 블로그다. 뭐든지 계획을 세우고 싶어하는 연초가 꽤 지난 2월인데도, 하고싶은 일이 많다. 업무에서 내 능력이 더 좋았으면 하는 순간들이 있고, 동료들을 보면서 자극받기도 하며, 앞으로의 10년, 20년을 생각해보며 자기개..

Title Wild : 좀 거친 환경에서도 잘 동작하는 점을 어필하고 싶었나보다 Abstract 창문이나 병처럼 유리로 만든 물체는 환경에 따라 다양한 외형을 가지기 때문에 segmentation하기 힘들다. 또한, 이전에는 데이터셋또한 제대로 구축되어있지 않다. 그래서 Trans10K라는 데이터셋을 공개한다. 또한 새로운 boundary-aware segmentation 방식을 제안한다. Figures 제공한 Trans10K 데이터셋에 대한 설명이다. labeling등에 신경써서 만들었으며, thing(작은 물체)와 stuff(크고, 이동 불가능한 물체)의 두 카테고리로 나누어 물체를 구분했다. 파란색이 things, 갈색이 stuff이다. 데이터셋의 일부이다. easy와 hard로 난이도 구분이 되어..

Title Redidual : ResNet 같이 Residual connection이 있으려나 Abstract Semantic segmentation의 현재 sota는 quality와 computational resource에서 trade-off가 그렇게 괜찮지 않음. 그래서 실제 vehicle같은데서 활용하기 어려움. 이 논문에선 real time에 가능한 semantic segmentation을 제안함. 우리 구조의 핵심은 redisual connection과 factorized convolution을 사용하는 레이어임. Figures 전체적인 구조. encoder-decoder 구조로 이루어져있다. b는 원래 있었던 bottleneck 구조, c가 이 논문이 제안하는 non-bottleneck-1d..

Title Pyramid : SPPNet 같이 다양한 크기의 feature map을 갖는 피라미드 구조겠구나 Scene Parsing : Scene Understanding하고 비슷한건가? Abstract Scene Parsing은 open vocabulary라는 점과 scene이 다양하다는 점이 어려움. 이 논문에선 global context의 서로 다른 영역의 정보를 더하는 방식을 제안함. Figures ADE20K 데이터셋에서, 복잡한 scene의 모습. ADE20K을 scene parsing할 때 발생한 이슈들. 잘못 분류하는등의 문제가 있다. PSPNet의 구조. CNN을 통해 우선 feature map을 얻고 pyramid parsing을 통해 계산한다. 그림에서 보이는 대로 다양한 size로..