34분
RAG 다음은 시멘틱 레이어라는데, 고객한테 뭘 만들어 줘야 하나
요즘 고객 미팅에 들어가면 "시멘틱 레이어", "온톨로지", "컨텍스트 레이어" 같은 단어가 자주 들린다. Microsoft는 Fabric IQ를, Google은 Looker 시멘틱 레이어를, Snowflake와…
AI / LLM
LLM, RAG, 에이전트, 바이브 코딩. 개념 정리와 실무에서 부딪힌 이야기를 섞어서 쓴다. 입문자라면 개발 복귀자를 위한 AI 이야기부터, RAG를 하고 있다면 RAG에 대한 흔한 오해들부터 읽으면 된다.
설계 관점에서 순서대로 읽고 싶다면 AI 시스템 설계 연재가 따로 있다.
4분
RLHF, SFT 다음에 일어나는 일 — 정답이 아니라 선호를 가르친다
이 시리즈의 세 번째 글이다. 토크나이저, 파인튜닝에 이어, 입력과 적응 다음 단계인 정렬(alignment)을 다룬다. 논문 중심의 깊은 내용은 이미 AI 연재 보강 5에 썼다. 거기서 InstructGPT,…
5분
파인튜닝은 언제 하고, 언제 하지 말아야 하나
앞 글(토크나이저)에 이어서 쓴다. 이번에도 직접 파인튜닝을 돌려 본 후기가 아니라 논문과 자료를 읽고 정리한 글이다. 이 점은 미리 밝혀 둔다. "우리 도메인에 맞게 파인튜닝하자"는 말은 자주 나오는데, 내…
5분
LLM은 글자를 읽지 않는다 — 토크나이저가 만드는 이상한 일들
먼저 밝혀 둔다. 이 글은 직접 모델을 학습시켜 본 경험담이 아니라, 논문과 문서를 읽고 정리한 글이다. 그래서 "내가 해보니"라는 말은 하지 않겠다. 대신 확인한 것과 확인하지 못한 것을 구분해서 적는다.…
AI 연재 보강 5 — AI 학습에서의 '보상'(reward): RLHF에서 reward hacking까지
마지막 해석이다. "AI 보상"이 서비스가 아니라 모델 학습 이야기일 수 있다. 개발자들이 모인 자리라면 충분히 나올 수 있는 얘기라 따로 준비했다. 이 글은 앞선 글들과 결이 다르게 논문 중심이다. 초록을 직접…
AI 연재 보강 4 — 포인트와 쿠폰을 대화로 지급할 때: 멱등성, 원장, 권한 설계
"보상"을 로열티·리워드(포인트, 쿠폰, 캐시백)로 읽을 때의 이야기다. 이 해석에서 문제의 중심은 돈의 정확성이다. 한 번만 지급하고, 얼마 나갔는지 맞추고, 속여서 가져가지 못하게 하는 것. 미리 밝혀 둔다.…
AI 연재 보강 3 — 챗봇이 한 말은 회사의 약속인가: 고객 보상 챗봇의 책임과 가드레일
"보상"을 불편이나 오류에 대한 환불·배상·쿠폰 같은 고객 보상(CS)으로 읽을 때의 이야기다. 이 해석에서는 기술보다 먼저 책임 문제가 나온다. 챗봇이 "환불해 드릴게요"라고 말했는데 정책은 환불 불가라면, 누구…
AI 연재 보강 2 — 보험 보상 청구에 LLM을 붙인다면: 업무 흐름, 사례, 규제, 소송
"보상"을 보험 보상으로 읽을 때의 이야기다. 먼저 한 가지. 아래 내용은 공개된 보도, 공식 자료, 소송 기사에서 읽은 것이다. 보험사가 내부에서 어떻게 하는지는 내가 모르고, 도입 성과 수치는 대부분 회사…
AI 연재 보강 1 — '대화형 AI 보상 서비스'가 가리킬 수 있는 네 가지 관점
본편 9편에서는 "보상"을 넓게 잡고 보상 신청 시나리오 하나로 풀었다. 쓰고 나서 다시 보니 이 단어가 꽤 애매하다. 같은 문장을 듣고도 사람마다 떠올리는 시스템이 다르다. 그래서 이 보강 글에서는 해석을 네…
AI 연재 9/9 — 한 건의 보상 신청을 끝까지: 상태 머신으로 엮는 종합 설계
마지막 편이다. 이번 글은 새 사실을 소개하기보다 지금까지의 조각을 하나로 엮는다. 그래서 대부분이 내 설계 제안이다. 출처가 있는 부분은 따로 표시하고, 나머지는 "이렇게 설계해 볼 수 있다"로 읽어 주면…
AI 연재 8/9 — 도구 호출 결과를 화면으로: 동적 UI(Generative UI) 연동 설계
7편의 결론은 대화와 구조화된 위젯을 섞자는 것이었다. 그럼 이런 질문이 생긴다. 모델이 "지금 날짜 선택기를 보여 줘야겠다"고 판단했을 때, 그걸 어떻게 안전하게 화면에 올리는가. 이 분야는 지금 빠르게 움직이고…
AI 연재 7/9 — 채팅창 하나로는 부족한 순간들: 대화형 UX의 한계
여기부터는 화면 이야기다. 1~6편에서 아무리 잘 만든 파이프라인도 사용자가 보는 건 입력창 하나다. 그리고 처리형 서비스(신청하고, 서류 내고, 결과를 받는)에서 입력창 하나는 생각보다 자주 한계에 부딪힌다.…
AI 시스템 설계 연재12분
AI 연재 6/9 — 에이전트를 운영 가능하게 만드는 것들: 도구, 상태, 중단과 재개, 보안
데모의 에이전트는 잘 돌아간다. 운영의 에이전트는 중간에 죽고, 사람의 승인을 기다리고, 컨텍스트가 넘치고, 가끔 이상한 지시를 따른다. 이번 편은 그 간극에 관한 이야기다. 길다. 그래도 하나씩 간다. 버전…
AI 연재 5/9 — RAG는 검색 문제다: 청킹, 하이브리드 검색, 리랭킹, 평가
RAG를 처음 접하면 "벡터DB에 문서 넣고 유사한 걸 가져와 프롬프트에 붙이는 것"으로 이해하기 쉽다. 틀린 설명은 아니다. 다만 실제로 품질을 가르는 건 생성 모델이 아니라 무엇을 가져오느냐인 경우가 많다.…
AI 연재 4/9 — 워크플로우로 충분한데 에이전트를 쓰고 있지는 않은가
"에이전트"라는 말이 너무 넓게 쓰인다. 도구 하나 붙인 챗봇도, 몇 시간씩 코드를 고치는 시스템도 에이전트라고 부른다. 설계 얘기를 하려면 이 단어부터 좁혀야 한다. Anthropic의 "Building…
AI 시스템 설계 연재11분
AI 연재 3/9 — 틀리면 비싼 판단을 AI에게 맡길 때: 임계값, 사람 검토, 감사 로그
돈이나 권리가 걸린 판단은 평균 정확도 95%로 충분하지 않다. 나머지 5%가 누군가의 청구 거절이 되기 때문이다. 이번 편은 AI가 틀릴 수 있다는 걸 전제로 시스템을 어떻게 설계하는가다. 처음 떠오르는 설계는…
AI 시스템 설계 연재10분
AI 연재 2/9 — 판단이 맞는지 어떻게 아는가: 평가셋, LLM 판정자, 트레이싱
1편에서 파이프라인을 단계로 쪼개고 구조화 출력으로 형식을 고정했다. 그런데 형식이 맞는 것과 판단이 맞는 것은 다르다. 이번 편은 "잘 돌아간다는 걸 어떻게 증명하는가"다. 솔직히 이 주제는 개발자들 사이에서도…
AI 시스템 설계 연재10분
AI 연재 1/9 — LLM 호출 하나를 '파이프라인'으로 만든다는 것
LLM API를 처음 붙이면 신기하다. 프롬프트 던지면 그럴듯한 답이 온다. 문제는 그걸 서비스에 넣는 순간부터다. 응답 JSON이 가끔 깨지고, 타임아웃 뒤에 재시도했더니 같은 처리가 두 번 일어나고, 어느…
28분
내 업무 폴더에 Claude Code 앉히기 — 비개발자용 파일 관리 실전
개발자가 아니어도 엑셀과 문서 더미를 Claude Code로 다룰 수 있습니다. 폴더 구조, CLAUDE.md, 스킬을 어떻게 짜야 하는지 업무 유형 세 가지로 나눠 정리했습니다.
48분
Claude Code는 뒤에서 무슨 일을 하고 있나 — 바이브 코딩 사내 설명서
비전공자도 읽을 수 있게 쓴 Claude Code 동작 원리 설명서. 에이전트 루프, 컨텍스트 관리, 권한 모델이 어떻게 돌아가는지부터 소스 레벨의 내부 처리 순서, 회사에서 쓸 때의 리스크까지 정리했습니다.
13분
만들고 나서야 공부를 시작했다 — 내 스택을 역으로 분해하기
먼저 만들고 나중에 배운 사람이, 자기가 만든 걸 표준 용어로 다시 배우는 과정. 그리고 "왜 그걸 안 썼냐"는 질문에 대비하는 법.
10분
비개발자가 AI를 배우면 개발자가 불안해지는 이유
이 글은 hdex 팀에게 쓰는 글이다. 개발자가 아닌, 원래 하던 업무가 있는 사람들에게. 여러분이 ChatGPT나 Claude한테 "이거 요약해줘"라고 한 줄 치면 뭐가 일어나는지 생각해 본 적 있나? 그 질문은…
5분
AI 컨텍스트 최적화, 바이브 코딩 생산성을 진짜로 바꾸는 이유
CLAUDE.md 다이어트, 문서 동기화, 프롬프트 분리 같은 컨텍스트 리팩토링이 왜 체감 성능을 올리는지 정리했다.
25분
AI 실무 감각을 되찾기 위해 정리한 키워드 맵
최근 AI 관련 프로젝트를 준비하면서, 머릿속에 흩어져 있던 개념들을 한 번 정리할 필요를 느꼈다. SI 환경에서 개발 엔지니어 관점으로 AI를 다시 보려다 보니, 생각보다 빈틈이 많았다. 솔직히 말하면 나도 AI…
9분
AI 개발자 스킬트리 — 2026년에 뭘 배워야 하나
2026년 기준 AI 개발의 전체 스킬트리를 직무별, 학습 순서별로 정리해봤다.
9분
바이브 코딩, 제대로 하려면 — AI와 협업하는 개발 이야기
바이브 코딩의 본질과 AI 협업 개발을 제대로 하기 위해 필요한 역량, 전략, 그리고 실무 팁을 이야기한다.
7분
RAG에 대한 흔한 오해들 — 벡터 검색이 마법은 아니다
RAG 도입 시 실무에서 자주 발생하는 오해들을 짚어보고, 임베딩의 한계와 효과적인 검색 전략을 이야기한다.
11분
개발 복귀자를 위한 AI 이야기 — LLM부터 에이전트, AI 코딩 도구까지
LLM, 에이전트, RAG, LangChain, Cursor, Claude Code 등 최근 AI 기술의 핵심 개념을 처음부터 풀어본다.
6분
RAG vs Graph RAG — 뭐가 다르고, 언제 뭘 써야 하나
RAG와 Graph RAG의 아키텍처 차이, 성능 비교, 그리고 프로젝트에 맞는 선택 기준을 이야기한다.