생성형 AI 챗봇에 이런 정보는 넣지 마세요

사진: Sanket Mishra (Unsplash)

왜 위험한가

생성형 AI 챗봇에 입력한 대화 내용은 기본적으로 서비스 운영사의 서버에 저장되며, 설정에 따라 AI 모델을 개선하는 학습 데이터로 활용될 수 있다. 오픈AI도 챗GPT 이용 안내를 통해 민감한 내용은 입력하지 말라고 공식적으로 고지하고 있다. 문제는 한 번 입력한 정보가 모델 학습에 반영되면, 이후 다른 사용자와의 대화에서 그 정보의 일부가 의도치 않게 노출될 가능성을 완전히 배제하기 어렵다는 점이다.

실제로 사람들이 뭘 입력하고 있나

개인정보보호위원회 조사에 따르면, 생성형 AI 챗봇 이용 과정에서 입력한 개인정보 중 나이(45.0%), 이름(32.8%) 같은 기본 정보의 비율이 높게 나타났다. 여기서 더 나아가 건강·정신 상태(23.9%), 학교나 소속(19.4%) 같은 민감하거나 식별 가능성이 있는 정보를 입력한 경우도 상당수 확인됐다. 대부분 채팅하듯 편하게 쓰다 보니, 정보 입력 자체를 의식하지 못하는 경우가 많다는 게 문제로 지적된다.

사진: Levart_Photographer (Unsplash)

입력하면 안 되는 정보 유형

• 주민등록번호, 계좌번호, 카드번호 등 금융·신원 정보 — 문서 요약이나 서식 작성을 시킬 때 원본 그대로 붙여넣지 않도록 주의한다.
• 회사 기밀·미공개 프로젝트 정보 — 업무 효율을 위해 사내 자료를 입력하는 경우가 많은데, 기업 기밀이 유출될 위험이 있다.
• 비밀번호, 인증 정보 — 계정 문제 해결을 위해 챗봇에 비밀번호를 그대로 붙여넣는 경우가 있는데 절대 피해야 한다.
• 타인의 개인정보 — 가족·지인·고객의 이름, 연락처, 건강 정보 등을 본인 동의 없이 입력하는 것도 개인정보보호법상 문제가 될 수 있다.
• 건강·정신 상태 등 민감정보 — 상담하듯 털어놓기 쉬운 영역이지만, 구체적인 진단명이나 신원이 특정될 수 있는 정보는 최소화하는 것이 안전하다.

옵트아웃(학습 거부) 설정하는 법

주요 서비스는 대화 내용이 모델 학습에 쓰이지 않도록 거부(옵트아웃)하는 설정을 제공한다. 다만 메뉴 이름과 위치는 앱 버전에 따라 달라질 수 있어, 아래는 대략적인 경로로 참고하고 최신 버전에서 직접 확인하는 것이 정확하다.

• 챗GPT(모바일 앱 기준) — 설정에서 데이터 제어 관련 메뉴에 들어가 “모든 사용자 대상 모델 개선” 같은 옵션을 끄면, 이후 대화가 학습에 사용되지 않도록 설정할 수 있다.
• 제미나이(Gemini) — 앱 활동 설정에서 “활동 기록 보관”을 사용 안 함으로 변경하면 대화 내용이 학습에 활용되지 않도록 할 수 있다.

두 서비스 모두 옵트아웃을 하더라도 이미 입력한 과거 대화가 소급 삭제되는 것은 아닌 경우가 많으므로, 설정은 미리 해두는 것이 효과적이다.

그 외 안전하게 쓰는 습관

• 민감한 내용은 요약·마스킹 후 입력한다 — 실명이나 특정 수치를 그대로 넣기보다 익명화하거나 대략적인 표현으로 바꿔 질문한다.
• 정기적으로 대화 기록을 정리한다 — 필요 없어진 과거 대화는 삭제해 축적되는 정보량을 줄인다.
• 회사·기관 정책을 먼저 확인한다 — 업무용으로 AI 챗봇을 쓴다면, 소속 기관이 허용하는 정보 범위를 먼저 확인하는 것이 안전하다.
• 공식 앱·웹사이트를 이용한다 — 출처가 불분명한 확장 프로그램이나 우회 접속 경로는 별도의 정보 유출 경로가 될 수 있다.

자주 묻는 질문

옵트아웃을 하면 챗봇 성능이 떨어지나요?

성능 자체는 크게 달라지지 않는다. 옵트아웃은 내 대화가 다른 사용자를 위한 모델 학습에 쓰이지 않도록 막는 설정으로, 개인이 이용하는 챗봇의 응답 품질과는 별개다.

이미 입력한 민감한 정보는 지울 수 있나요?

서비스마다 대화 기록 삭제 기능을 제공하지만, 이미 모델 학습에 반영된 데이터까지 완전히 되돌리기는 어려운 경우가 많다. 가장 확실한 방법은 애초에 민감한 정보를 입력하지 않는 것이다.

업무에 AI 챗봇을 쓰면 안 되나요?

그렇지는 않다. 다만 회사 기밀이나 고객 개인정보처럼 유출 시 문제가 될 수 있는 내용은 소속 기관의 보안 정책을 먼저 확인하고, 필요하다면 기업용 버전이나 사내 승인된 도구를 사용하는 것이 안전하다.

마무리

생성형 AI 챗봇은 대화하듯 편하게 쓸 수 있다는 게 장점이지만, 그만큼 입력하는 정보에 대한 경각심이 낮아지기 쉽다. 옵트아웃 설정을 미리 해두고, 개인 신원이나 금융 정보처럼 민감한 내용은 애초에 넣지 않는 습관을 들이는 것이 가장 확실한 예방법이다.