호텔 고객 데이터를 AI에 넣기 전에 확인할 것

호텔은 개인정보를 가장 많이 다루는 서비스 산업 가운데 하나다. 예약 한 건에는 고객의 이름과 연락처가 들어 있고, 해외 고객이라면 여권 정보가, 결제가 이루어졌다면 카드 정보가 따라붙는다. 고객 문의 기록과 시스템 로그에도 이런 정보가 섞여 있다.

AI 에이전트를 업무에 활용하는 호텔 IT 조직이 늘면서 새로운 질문이 생겼다. 고객 문의를 분석하거나 결함 로그를 정리할 때, 이 데이터를 그대로 AI에 넣어도 되는가. 박건희 소장의 『이제 QA, AI Agent랑 같이 합시다』 8장은 이 질문에 실무적인 답을 제시한다.

첫 번째 기준은 회사의 AI 사용 정책

책이 가장 먼저 강조하는 원칙은 회사의 AI 사용 정책이다. 회사에 따라 외부 AI 서비스 사용을 금지하거나, 회사가 계약한 업무용 계정만 허용하거나, 넣을 수 있는 정보의 범위를 정해 둔다. 정책이 없다면 관리자에게 먼저 묻는 것이 순서다. 사용하는 계정의 데이터 관련 설정, 예컨대 대화 내용이 서비스 개선에 쓰이는지도 공식 안내를 기준으로 확인해야 한다.

정책이 허용하더라도 넣지 않거나 가려야 할 정보가 있다. 책은 이를 네 가지로 정리한다.

• 고객 개인정보: 이름, 전화번호, 이메일, 주소, 생년월일
• 민감한 식별 정보: 여권 번호, 신분증 번호, 카드 번호, 계좌 번호
• 인증 정보: 비밀번호, 접속 키, 내부 서버 주소
• 회사 기밀: 계약 조건, 미공개 요금 정책, 정책상 금지된 소스 코드

가리는 일은 회사 안에서 먼저

고객 문의를 분석하고 싶다면 개인정보를 가린 뒤 넣으면 된다. 예를 들어 "김○○ 고객(전화번호)이 703호 예약 취소 요청"이라는 원문은 "고객A(연락처 삭제)가 객실X 예약 취소 요청"으로 바꾼다. 예약번호와 카드 끝자리가 들어간 문장은 임의의 번호로 바꾸고 카드 정보를 지운다. 로그 속 이메일 주소는 '[이메일]'로 치환한다.

책은 여기서 흔히 놓치는 함정을 짚는다. 가명 처리 자체를 AI 에이전트에게 맡겨서는 안 된다는 것이다. "개인정보를 가려 줘"라고 요청하려면 원본을 먼저 넣어야 하고, 그 순간 이미 정보가 외부 서비스로 전달된다. 가명 처리는 엑셀의 찾기·바꾸기나 사내 도구로 회사 안에서 먼저 해야 한다.

분석에 필요한 것은 "누가"가 아니라 "어떤 문제가, 얼마나 자주"다. 가려도 분석의 질은 거의 떨어지지 않는다.

AI가 만든 것은 모두 초안이다

데이터를 안전하게 넣었다고 해서 끝이 아니다. 책은 AI 에이전트가 만든 테스트 케이스, 결함 보고서, 분석 결과를 모두 초안으로 볼 것을 요구하며, 다음과 같은 검증 습관을 제시한다.

• 원문과 대조: AI가 정리한 조건이 기획서 원문에 실제로 있는지 확인한다.
• 숫자는 직접 계산: 금액, 할인율, 개수, 커버리지는 다시 계산한다.
• 빠진 것 찾기: 테스트 기법으로 뽑은 경곗값과 규칙이 모두 들어갔는지 확인한다.
• 근거 묻기: "이 기대 결과는 기획서 어디에 근거했는가"를 되묻는다.
• 다르게 다시 묻기: 같은 작업을 다른 표현으로 요청해 결과를 비교한다.
• 최종 판단은 사람: 출시 여부, 심각도, 결함 여부는 팀이 결정한다.

책은 의심해야 할 답변의 신호도 함께 소개한다. 존재하지 않는 규정 조항을 그럴듯하게 인용하는 경우, 우리 회사의 규칙을 아는 듯 일반론을 말하는 경우, 계산 과정 없이 결과만 내놓는 경우, 날짜와 요일을 계산하는 경우 등이다. 책에 실린 현장 사례에서는 입사 두 달 차 테스터가 AI 에이전트로 만든 테스트 케이스 30개를 검토 없이 등록했다가, 모든 객실의 최대 인원을 2명으로 가정한 오류를 선배의 리뷰에서 지적받았다. 이후 그는 AI 결과를 받으면 자신이 기법으로 직접 뽑은 값과 먼저 대조하는 습관을 들였다.

AI 시대에 사람에게 남는 일

책의 13장은 AI가 테스트 케이스 초안 작성, 결함 보고서 정리, 로그 요약 같은 일을 점점 더 잘하게 될 것이라고 전망한다. 그렇다고 사람의 역할이 줄어드는 것은 아니다. 무엇을 테스트할지 정하는 일, 현장을 상상하는 일, AI의 결과를 검증하는 일, 사람과 소통하는 일, 그리고 "출시해도 된다"고 말하고 그 근거를 대는 책임은 여전히 사람의 몫이다. 책은 AI가 초안을 더 잘 쓸수록 그 초안을 판단할 줄 아는 사람의 가치는 오히려 커진다고 본다.

호텔 산업의 관점에서 덧붙이면, 고객의 개인정보를 지키는 일은 법적 의무이기 전에 서비스품질의 일부다. 고객은 객실의 청결과 직원의 친절만큼이나 자신의 정보가 안전하게 다뤄지기를 기대한다. AI 도입의 속도만큼 데이터를 다루는 원칙을 조직 안에 세우는 일이 함께 진행되어야 한다.