나는 왜 이중화에 집착하는가 — 데이터와 가용성에 대한 인프라 구성 철학
들어가며 — 어떤 인프라 엔지니어의 직업병 인프라를 오래 다루다 보면 각자 유난히 신경 쓰는 지점이 생긴다. 누군가는 비용, 누군가는 보안, 누군가는 배포 속도. 나에게 그건 이중화(redundancy)다. 구성도를 그릴 때 나도 모르게 가장 먼저 던지는 질문은 늘 같다. “이 컴포넌트 하나가 지금 죽으면, 서비스는 계속 살아있는가?” 이...
들어가며 — 어떤 인프라 엔지니어의 직업병 인프라를 오래 다루다 보면 각자 유난히 신경 쓰는 지점이 생긴다. 누군가는 비용, 누군가는 보안, 누군가는 배포 속도. 나에게 그건 이중화(redundancy)다. 구성도를 그릴 때 나도 모르게 가장 먼저 던지는 질문은 늘 같다. “이 컴포넌트 하나가 지금 죽으면, 서비스는 계속 살아있는가?” 이...
1편, 이 시리즈의 첫 문장으로 돌아간다. BPE로 문장을 토큰으로 쪼개면서 이렇게 적어뒀다. “토큰 하나에 값이 매겨진다는 건 무슨 뜻일까.” 아홉 편을 돌아 이제 그 답을 완전히 회수할 시간이다. 그리고 이 마지막 편에서, 지금까지 뿌려둔 조각들을 한 줄로 꿰어 완성된 그림을 그려본다. 마지막 사건: 토큰이 왜 돈이고 속도인가 LLM A...
8편에서 뇌를 개조하는 첫 번째 방법을 봤다. 몸통은 그대로 두고, 판단 부위만 갈아 끼우는 방식으로 “스팸이다 / 아니다”라는 두 개의 선택지 중 하나를 고르게 만들었다. 그런데 ChatGPT는 “이 이메일 요약해줘”처럼 사실상 무한한 형태의 요청을 받아, 그때그때 자유로운 형태의 답을 만들어낸다. 두 개의 선택지와는 완전히 다른 문제다. 이걸...