티스토리 뷰
목차
AI로 만든 글을 매일 쓰는 사람도 AI 기본법 규제 대상이 될까요? 저도 처음엔 그런 줄 알았습니다. 2026년 1월 22일 시행된 AI 기본법은 생각보다 범위가 넓었고, 동시에 오해도 많았습니다. 직접 내용을 읽어보고 나서야 "아, 이건 나한테 해당하는 이야기가 아니구나"를 겨우 알았습니다.
AI가 법 테두리 안으로 들어온 배경
솔직히 말하면, 저는 처음에 이 법을 뉴스 헤드라인으로만 접했습니다. "AI 기본법 시행"이라는 문구를 보고 '또 뭔가 규제가 생겼구나' 정도로 넘어갔는데, 막상 내용을 찾아 읽어보니 단순한 규제법이 아니었습니다.
AI 기본법의 정식 명칭은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'입니다. 여기서 '기본법'이란 특정 분야 전체를 아우르는 최상위 정책 방향을 담은 법률을 의미합니다. 쉽게 말해 AI 산업의 헌법 같은 역할을 하는 겁니다.
전 세계 기준으로 보면, 규제법을 전면 시행한 것은 한국이 처음입니다. EU(유럽연합)가 AI법을 먼저 만들기는 했지만 단계적 시행을 택하고 있어서, 전면 시행 기준으로는 우리나라가 앞선 셈입니다(출처: 과학기술정보통신부).
법 제정의 직접적인 배경 중 하나는 딥페이크(deepfake) 문제였습니다. 딥페이크란 AI 기술로 실제 인물의 얼굴이나 목소리를 합성해 만든 가짜 영상·음성을 말합니다. 제가 직접 써봤는데, 요즘 기술은 진짜와 구분이 거의 안 될 정도로 정교해졌습니다. 이런 콘텐츠가 범람하면서 가짜 정보 유포나 사기 피해가 실제로 늘어났고, 이를 제도적으로 막아야 한다는 목소리가 커진 겁니다.
- AI 기본법 시행일: 2026년 1월 22일
- 전 세계 AI 규제법 전면 시행 첫 번째 국가: 대한민국
- 법의 두 축: AI 산업 진흥 + 안전·신뢰 기반 규제
- 제정 배경: 딥페이크 피해 확산, AI 오남용 방지 필요성 증가
핵심 규제, 실제로 뭐가 달라지나
이 부분이 제가 가장 집중해서 읽은 대목입니다. 블로그를 운영하면서 ChatGPT를 자주 쓰다 보니, 'AI 생성물 표시 의무'라는 단어를 보는 순간 등이 서늘했습니다. 혹시 제가 쓴 글에도 뭔가 붙여야 하는 건가 싶었거든요.
결론부터 말하면, 이 의무는 AI 서비스를 개발하거나 제공하는 사업자에게 부과됩니다. 개인 이용자가 ChatGPT로 글을 쓴다고 해서 법적 의무가 생기는 건 아닙니다. 기사 제목만 봐서는 오해하기 딱 좋은 구조였습니다.
고영향 AI 안전성 확보 의무
고영향 AI(High-Impact AI)란 국민의 생명이나 기본권에 직접적·실질적 영향을 미칠 수 있는 AI 시스템을 뜻합니다. 여기서 고영향 AI란 단순히 위험한 AI가 아니라, 의사 결정 결과가 개인의 삶에 돌이키기 어려운 영향을 주는 영역에 쓰이는 AI를 의미합니다.
정부가 지정한 고영향 AI 분야는 의료, 채용, 대출 심사, 범죄 수사, 원자력, 교통, 교육 등 10개입니다. 제 경험상 이 중 채용과 대출 심사가 가장 민감하게 느껴졌습니다. AI가 사람의 취업 여부나 대출 가능 여부를 판단하는 상황에서 아무런 안전장치가 없다면 그건 분명히 문제가 될 수 있으니까요.
이 분야 사업자는 AI를 사람이 직접 관리·통제할 수 있는 시스템을 의무적으로 갖춰야 합니다. 위반 시 최대 3,000만 원의 과태료가 부과됩니다.
AI 생성물 워터마크 표시 의무
생성형 AI(Generative AI)가 만들어낸 문서, 이미지, 영상 등에는 AI가 만든 사실을 표시해야 합니다. 여기서 생성형 AI란 텍스트·이미지·영상 등 새로운 콘텐츠를 스스로 만들어내는 AI를 말하며, ChatGPT나 이미지 생성 AI가 대표적입니다(출처: 한국인터넷진흥원).
특히 딥페이크처럼 실제와 구분이 어려운 결과물은 이용자가 명확히 인식할 수 있도록 고지하거나 표시해야 합니다. 반면 애니메이션이나 웹툰처럼 딥페이크가 아닌 일반 창작물에는 눈에 보이지 않는 디지털 워터마크(digital watermark) 사용도 허용됩니다. 디지털 워터마크란 콘텐츠에 육안으로는 보이지 않지만 기술적으로 탐지 가능한 식별 정보를 심어두는 방식을 말합니다.
해외 빅테크 국내 대리인 지정 의무
솔직히 이건 예상 밖이었습니다. 법이 국내 기업뿐 아니라 해외 AI 기업에도 책임을 묻는 구조를 만들었다는 점이 인상적이었습니다.
전년도 글로벌 매출 1조 원 이상, 국내 AI 서비스 매출 100억 원 이상, 국내 일평균 이용자 100만 명 이상 중 하나라도 해당하는 해외 기업은 국내 대리인을 반드시 지정해야 합니다. 현재 기준으로는 오픈AI(OpenAI)와 구글(Google) 정도가 해당하는 것으로 알려져 있습니다.
앞으로의 전망, 기대와 우려 사이
주변에 AI를 쓰는 사람이 눈에 띄게 늘었습니다. 과제, 보고서, 이미지 편집, 번역까지 AI가 안 쓰이는 곳이 없을 정도입니다. 그래서 "법이 생겼다"는 소식에 막연히 '이제 AI 못 쓰는 거 아니야?'라고 반응하는 분들도 꽤 있었습니다. 제 경험상 이런 오해는 대부분 내용을 직접 확인하지 않은 데서 옵니다.
정부 방침은 규제보다 산업 진흥 쪽에 무게를 두고 있습니다. AI R&D(연구개발)를 지원하고, AI 데이터센터 구축을 통해 학습용 데이터 확보를 돕고, 전문 인력 양성까지 지원할 계획입니다. 공공 분야와 해외 시장에서의 AI 활용 기회도 점점 확대될 가능성이 있습니다.
다만 현실적인 우려도 있습니다. 해외 AI 기업에 대한 규제 적용이 실제로 얼마나 효과적으로 작동할지가 관건입니다. 규제가 국내 기업에만 실질적으로 집행된다면, 결과적으로 국내 기업만 부담이 커지는 역차별 문제가 발생할 수 있습니다. 이 점은 개인적으로도 좀 더 지켜봐야 할 부분이라고 생각합니다.
법 시행 초기인 만큼 최소 1년 이상의 계도 기간이 운영될 예정입니다. 계도 기간이란 법 위반에 대해 즉시 처벌하지 않고 지도·안내 위주로 운영하는 유예 기간을 말합니다. 이 기간 동안 세부 가이드라인이 어떻게 만들어지느냐에 따라 법의 실질적인 영향력이 결정될 것으로 보입니다.
자주 묻는 질문
Q. 개인이 ChatGPT로 글 쓰면 AI 기본법 위반인가요?
A. 아닙니다. AI 기본법은 AI 모델을 개발하거나 서비스를 직접 제공하는 사업자를 대상으로 합니다. 개인이 ChatGPT나 이미지 생성 AI를 업무·창작 용도로 사용하는 건 규제 대상이 아닙니다. 저도 처음엔 헷갈렸는데, 내용을 직접 읽고 나서야 확실히 구분이 됐습니다.
Q. AI로 만든 이미지에 워터마크를 꼭 붙여야 하나요?
A. 의무 대상은 서비스를 제공하는 사업자입니다. 단, 실제 사진처럼 보이는 딥페이크 이미지는 AI 생성물임을 명확히 표시해야 합니다. 반면 그림체가 분명한 일러스트나 웹툰 스타일 이미지는 눈에 보이지 않는 디지털 워터마크 방식도 허용됩니다.
Q. 고영향 AI에 해당하는 분야가 어디어디인가요?
A. 정부가 제시한 10개 분야는 의료, 채용, 대출 심사, 범죄 수사, 원자력, 에너지, 먹는 물, 교통, 공공서비스, 교육입니다. 이 분야에서 AI를 활용하는 사업자는 사람이 직접 AI를 관리·통제할 수 있는 시스템을 의무적으로 갖춰야 합니다.
Q. AI 기본법을 어기면 바로 처벌받나요?
A. 시행 초기에는 최소 1년 이상의 계도 기간이 운영됩니다. 이 기간에는 처벌보다 지도와 안내가 우선입니다. 다만 인명 사고나 심각한 인권 침해처럼 사회적으로 큰 피해가 발생했을 경우에는 계도 기간 중에도 예외적으로 과태료(최대 3,000만 원)가 부과될 수 있습니다.
결론
AI 기본법을 처음 접했을 때 저는 꽤 막연한 불안을 느꼈습니다. AI를 매일 쓰는 입장에서 법이 생겼다는 말이 어쩐지 불편하게 들렸거든요. 그런데 직접 내용을 읽어보고 나서 그 불안이 상당 부분 오해에서 비롯됐다는 걸 알았습니다.
이 법은 개인 이용자를 締 조이려는 게 아닙니다. AI 서비스를 만들고 파는 기업에 최소한의 안전 책임을 묻는 것이 핵심입니다. 딥페이크 피해처럼 실제로 사람이 다치는 상황을 막겠다는 취지는 충분히 납득할 수 있습니다. 앞으로 만들어질 세부 가이드라인을 꾸준히 확인해두는 것이 AI를 자주 쓰는 분들에게는 가장 현실적인 준비가 될 것 같습니다.