티스토리 뷰
목차
AI에게 사진을 올리고 문서를 붙여 넣으면서도 "설마 이게 학습에 쓰이겠어?"라고 생각했습니다. 그런데 직접 설정 메뉴를 열어보고 나서야 제가 얼마나 무심했는지 실감했습니다. 생성형 AI 서비스마다 데이터 수집 방식이 다르고, 거부 설정 위치도 제각각입니다. 어떤 정보가 어디로 흘러가는지 파악하려면 사용자가 직접 움직여야 한다는 사실, 이 글에서 정리해 보겠습니다.
AI 데이터 학습, 내 대화가 모델에 쓰인다는 게 사실일까
AI와 나눈 대화가 모델 훈련(Model Training)에 사용될 수 있다는 사실은 알고 있었지만, 그게 기본값으로 설정되어 있다는 점은 처음 확인했을 때 꽤 당황스러웠습니다. 모델 훈련이란 AI가 더 자연스럽고 정확한 응답을 생성할 수 있도록 사용자 데이터를 반복 학습하는 과정을 말합니다. 문제는 이 과정에서 내가 입력한 문장, 이미지, 심지어 민감한 정보까지 포함될 수 있다는 점입니다.
이미지가 AI 학습에 활용되는 경로는 크게 두 가지입니다. 하나는 웹 크롤러(Web Crawler)를 통한 방식입니다. 웹 크롤러란 인터넷에 공개된 페이지를 자동으로 돌아다니며 데이터를 수집하는 프로그램으로, 검색엔진이 웹페이지를 색인할 때 쓰는 방식과 동일합니다. SNS에 올린 사진이 이 경로로 수집될 수 있습니다. 다른 하나는 서비스 내부 업로드 방식으로, 특정 AI 플랫폼에 직접 올린 파일이나 대화가 해당 기업의 모델 고도화에 활용되는 경우입니다.
제가 직접 확인해보니, 주요 AI 서비스들의 데이터 처리 방식은 이렇게 정리됩니다.
- 챗GPT: 기본적으로 대화와 이미지를 모델 개선에 활용. 컴퓨터에서는 프로필 아이콘 → 데이터 제어 → '모두를 위한 모델 개선' 비활성화. 스마트폰은 메뉴 → 프로필 → 데이터 제어 경로로 동일하게 끌 수 있습니다.
- 제미나이(Gemini): 만 18세 이상에게 '활동 기록 보관'이 기본 적용됩니다. 컴퓨터 메뉴 → 활동 → '사용 안함(중지)'으로 해제하면 됩니다.
- 그록(Grok): X(구 트위터)가 개발한 이미지 생성 특화 AI. 왼쪽 하단 프로필 → 설정 → '모델 개선' 비활성화 순서입니다.
- 퍼플렉시티(Perplexity): 검색 특화 AI로 이용자가 빠르게 늘고 있습니다. 컴퓨터 기준 왼쪽 아래 계정 → 선호설정 → 'AI 데이터 보존' 비활성화로 처리할 수 있습니다.
- 클로드(Claude): 앤트로픽(Anthropic)이 개발한 AI로, 공식 정책상 "명시적으로 동의하지 않는 한 입력·출력을 생성 모델 학습에 사용하지 않는다"고 밝히고 있습니다. 별도 설정이 번거롭다면 이 서비스부터 시작해보는 것도 방법입니다.
특히 X(엑스)의 경우, 2023년 9월부터 이용자 데이터를 AI 개발에 활용하기 시작했고, 2024년 11월부터는 제삼자에게도 모델 훈련 목적으로 데이터를 제공할 수 있도록 정책을 변경했습니다. 사전 동의나 별도 고지 없이 이뤄진 정책 변경이라 논란이 됐습니다. 막으려면 설정 및 개인정보 → 개인정보 및 안전 → '그록 및 서드 파티 협력업체' 메뉴에서 데이터 학습 허용 항목을 직접 비활성화해야 합니다.
이를 뒷받침하는 공식 지침도 있습니다. 출처: 개인정보보호위원회가 2024년 발간한 '생성형 인공지능 이용자 보호 가이드라인'에는, 서비스 제공자가 이용 중 생성된 데이터를 학습에 활용하려면 사전 고지와 함께 이용자가 동의 또는 거부를 선택할 수 있는 절차를 갖춰야 한다고 명시되어 있습니다. 가이드라인이 있어도 실제 적용은 서비스마다 편차가 크다는 게 제 경험상 느낀 현실입니다.
SNS 사진 속 메타데이터, 생각보다 많은 정보가 담겨 있습니다
제가 직접 써봤는데, 스마트폰으로 찍은 사진의 '세부정보'를 열었을 때 처음 본 정보량에 적잖이 놀랐습니다. 촬영 날짜는 물론이고 GPS 좌표까지 기록되어 있었습니다. 이 정보의 정식 명칭은 메타데이터(Metadata)입니다. 메타데이터란 파일 자체에 내장된 '데이터에 관한 데이터'로, 사진 한 장에 촬영 시각, 위치 정보, 사용한 기기 모델명, 조리개 값 같은 촬영 환경 정보가 모두 포함될 수 있습니다.
이 정보가 왜 문제가 되느냐면, SNS에 사진을 올릴 때 플랫폼에 따라 메타데이터가 그대로 보존되거나 AI 학습 데이터셋(Dataset)에 포함될 수 있기 때문입니다. 데이터셋이란 AI 모델이 학습할 때 사용하는 정보 묶음으로, 여기에 위치 정보나 개인 식별 정보가 섞여 들어가면 의도치 않은 사생활 노출이 발생할 수 있습니다. AI가 직접 내 사진을 훔쳐 간다는 표현보다는, 내가 올린 사진 안에 숨겨진 정보가 수집 경로에 포함될 수 있다는 표현이 더 정확합니다.
메타데이터를 지우는 방법은 간단합니다. 스마트폰에서는 사진 앱의 '정보' 또는 '세부정보'에서 위치 정보를 삭제할 수 있고, 일부 기종은 공유 전 '위치 정보 제거' 기능을 별도로 제공합니다. 컴퓨터에서는 파일을 우클릭해 '속성' 또는 '정보 가져오기'에서 메타데이터를 삭제하거나, 전용 메타데이터 삭제 도구를 활용하면 됩니다.
한 단계 더 나아가고 싶다면 글래이즈(Glaze)나 나이트셰이드(Nightshade) 같은 AI 학습 방해 도구를 활용하는 방법도 있습니다. 이 프로그램들은 이미지의 색상과 픽셀 정보를 사람 눈에는 거의 보이지 않게 미세하게 변형해서, AI가 해당 이미지를 정상적으로 인식하거나 학습하지 못하도록 만드는 원리입니다. 원본 화질은 유지되면서 AI 모델에는 왜곡된 데이터로 전달되는 것입니다. 다만 이 방법이 모든 AI 학습을 완전히 차단하는 것은 아닙니다. 출처: 시카고대학교 글래이즈 프로젝트에서도 플랫폼 정책 확인과 병행할 것을 권고하고 있습니다.
결국 이 모든 조치가 완벽한 방어막은 아닙니다. 하지만 AI에게 굳이 알려줄 필요가 없는 정보, 예를 들어 주민등록번호, 계좌번호, 집 주소 같은 항목은 처음부터 입력하지 않는 것이 가장 현실적인 대응이라고 생각합니다. 제가 지금 실천하고 있는 방식도 바로 이것입니다. 업로드 전에 문서나 사진을 한 번 훑어보고, 굳이 AI가 알 필요 없는 정보는 지우거나 가리는 습관을 들였습니다.
자주 묻는 질문
Q. 챗GPT에 사진을 올리면 그 사진이 학습에 쓰이나요?
A. 기본값 상태에서는 그럴 수 있습니다. 챗GPT는 대화와 이미지를 모델 개선에 활용하는 것이 기본 설정입니다. 이를 막으려면 데이터 제어 메뉴에서 '모두를 위한 모델 개선' 항목을 직접 비활성화해야 합니다. 설정을 바꾸지 않는 한 업로드한 파일도 학습 대상이 될 수 있다고 보는 게 맞습니다.
Q. AI 서비스 설정을 바꾸면 이전에 입력한 데이터도 삭제되나요?
A. 설정 변경은 이후 데이터 수집을 막는 것이지, 이미 수집된 데이터를 소급해서 삭제하지는 않습니다. 이전 대화 기록까지 지우고 싶다면 제미나이의 경우처럼 '활동 삭제' 기능을 별도로 실행해야 합니다. 서비스마다 삭제 범위와 방법이 다르므로 각 플랫폼의 개인정보 처리방침을 직접 확인하는 것이 정확합니다.
Q. 메타데이터를 지우지 않고 SNS에 사진을 올리면 어떤 정보가 노출되나요?
A. 스마트폰으로 찍은 사진에는 GPS 좌표, 촬영 일시, 사용 기기 모델명 등이 메타데이터로 내장됩니다. 플랫폼이 이 정보를 보존한 채 데이터를 수집하면 촬영 장소나 생활 패턴이 의도치 않게 노출될 수 있습니다. 특히 집이나 직장처럼 자주 가는 장소에서 찍은 사진은 업로드 전 위치 정보를 삭제하는 것이 안전합니다.
Q. 글래이즈(Glaze)나 나이트셰이드(Nightshade)를 쓰면 AI 학습을 완전히 막을 수 있나요?
A. 완전한 차단은 어렵습니다. 이 도구들은 AI가 이미지를 정상적으로 인식하기 어렵도록 픽셀을 미세하게 변형하는 방식으로 작동하지만, 모든 AI 모델과 모든 학습 방식에 동일하게 효과적이지는 않습니다. 플랫폼의 AI 학습 거부 설정, 저작권 태그 활용과 함께 병행하는 보조 수단으로 활용하는 것이 현실적입니다.
결론
AI 개인정보 보호가 결국 사용자의 주의에만 의존하는 구조라는 점은 솔직히 아쉽습니다. 서비스마다 설정 위치가 다르고, 약관 깊숙한 곳에 학습 활용 사실을 명시하는 방식은 일반 사용자가 실질적인 정보를 제공받았다고 보기 어렵습니다. 그렇다고 AI를 무조건 위험하게 볼 필요는 없습니다. 핵심은 막연한 공포가 아니라, 내가 어떤 서비스에 어떤 정보를 넣었는지를 파악하는 습관입니다.
지금 당장 할 수 있는 것부터 시작하면 됩니다. 자주 쓰는 AI 서비스 하나를 열고 데이터 제어 설정을 확인해 보는 것, 그것만으로도 내 정보가 어떻게 처리되는지 훨씬 명확하게 알 수 있습니다. 기술이 빠르게 발전할수록 서비스의 편리함만큼 개인정보 설정도 함께 챙기는 태도가 필요해 보입니다.