AI 연재 보강 1 — '대화형 AI 보상 서비스'가 가리킬 수 있는 네 가지 관점

본편 9편에서는 "보상"을 넓게 잡고 보상 신청 시나리오 하나로 풀었다. 쓰고 나서 다시 보니 이 단어가 꽤 애매하다. 같은 문장을 듣고도 사람마다 떠올리는 시스템이 다르다. 그래서 이 보강 글에서는 해석을 네 갈래로 나누고, 각각에 맞게 어떤 질문이 달라지는지 정리한다.

솔직히 어느 해석이 맞는지는 나도 모른다. 그래서 전부 준비한다는 접근이다.

---

네 가지 해석

해석	한 줄 정의	핵심 질문	보강 글
① 보험 보상	사고·질병에 대한 보험금 청구를 대화로 접수·심사	자동 판단을 어디까지 허용하나	보강 2
② 고객 보상(CS)	불편·오류에 대한 환불, 배상, 쿠폰 처리	챗봇의 말이 회사의 약속이 되는가	보강 3
③ 리워드·포인트	적립·지급·교환을 대화로 안내·처리	이중지급과 어뷰징을 어떻게 막나	보강 4
④ AI 학습의 보상(reward)	RLHF 등에서 모델을 길들이는 신호	보상을 어떻게 속이고 어떻게 막나	보강 5

①~③은 "서비스 도메인"의 차이고, ④는 아예 다른 층위다. 서비스 안에서 AI가 돈이나 혜택을 다루는 이야기(①~③)와, AI 자체가 무엇을 목표로 학습됐는가의 이야기(④)다. 사내 논의에서 "보상"이라는 말이 나왔을 때 어느 층위인지부터 확인하는 게 첫 질문이 될 것 같다.

---

네 해석에 공통으로 걸리는 뼈대

본편에서 다룬 것 중 해석과 무관하게 거의 그대로 쓰이는 부분이 있다.

• 1편: 단계 분해, 구조화 출력, 멱등 키를 이용한 재시도 안전성. 어떤 보상이든 돈이나 혜택이 두 번 나가면 안 된다.
• 2편: 평가셋과 트레이싱. 어느 해석이든 "맞는지 어떻게 아는가"는 똑같다.
• 3편: 사람 검토와 감사 로그. 지급이 걸리면 승인 권한 분리가 핵심이다.
• 6편: 도구 권한과 프롬프트 인젝션. 보상 도구는 가장 노려지기 쉬운 도구다.
• 8편: 서버가 권위 있는 데이터를 갖는 동적 UI.

해석마다 달라지는 건 대체로 세 가지다. 규제의 종류, 실패했을 때의 비용 구조, 그리고 판단에 쓰는 기준 문서(약관, 캠페인 규칙, 환불 정책 등)다.

---

어느 쪽 질문이 나와도 대답할 수 있도록

관점별로 나올 법한 질문 유형을 미리 적어 둔다. 정답이라기보다 이 연재의 글들이 각각 어느 질문의 재료가 되는지 표시해 둔 것이다.

설계 일반

• 이 판단을 LLM에게 맡기는 게 맞나, 규칙으로 충분하지 않나? (4편)
• 틀렸을 때 누가 어떻게 알아채나? (2, 3편)
• 같은 요청이 두 번 들어오면? (1편, 보강 4)

대화형 UX

• 왜 채팅만으로는 부족한가? (7편)
• 모델이 UI를 "생성"하게 두면 안전한가? (8편)

책임과 규제

• AI가 한 말에 회사가 책임지는가? (보강 3)
• 자동화된 결정에 설명을 요구할 수 있는가? (보강 2)

AI 자체

• 사용자 만족을 보상으로 학습한 모델은 왜 아첨하는가? (보강 5)

---

이 보강 글들의 한계

미리 밝혀 둔다. 이번 보강에서 읽은 자료도 대부분 공개 문서와 논문, 보도다. 현장에서 직접 운영해 본 경험은 없다. 확인하지 못한 항목은 각 글에서 확인하지 못했다고 적었다.

특히 법률과 소송은 해설이 아니라 "이런 자료가 있다"의 수준이다. 실제 판단에는 전문가 검토가 필요하다.

보강 글 목차: 1(현재) · 2 보험 보상 청구 · 3 고객 보상 챗봇의 책임 · 4 리워드·포인트 지급 설계 · 5 AI 학습의 보상

본편은 1편부터 읽으면 된다.