IT·과학

AI 기본법 시행 — AI 생성물 표시 의무는 누구에게, 무엇을

김도담··약 3분

AI 사업자가 AI 서비스를 제공할 때 고영향 AI 여부 확인, 사전 고지, 결과물 표시 순서로 지켜야 할 의무를 나타낸 흐름도
그림 1. AI 기본법 투명성 의무 순서 (과학기술정보통신부 발표로 직접 작성)

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(AI 기본법)이 2026년 1월 22일 시행됐습니다. 시행령은 1월 20일 국무회의에서 의결됐습니다. AI 산업을 키우는 근거와 함께, AI를 쓰는 제품·서비스가 지켜야 할 투명성·안전성 의무를 처음으로 법에 담았습니다.

“AI로 만든 그림에 표시를 안 하면 처벌받나?” 같은 질문이 많아서, 의무가 누구에게 있고 무엇을 해야 하는지를 중심으로 정리했습니다.

의무는 누구에게 있나

구분 표시·고지 의무 설명
AI 사업자 (AI 제품·서비스를 제공·운영) 있음 고영향 AI·생성형 AI를 쓰는 사실을 이용자에게 미리 알리고, 생성물에 표시
이용자 (AI 서비스로 콘텐츠를 만들어 씀) AI 기본법상 없음 다만 AI 생성물로 다른 법(명예훼손, 저작권, 허위 광고 등)을 어기면 그 법으로 제재

과학기술정보통신부 지원데스크 상담 사례에서도, 생성형 AI 서비스를 이용해 콘텐츠를 만드는 사람에게는 이 법의 표시 의무가 없고 서비스를 제공·운영하는 사업자에게 있다고 안내됐습니다.

사업자가 해야 할 것 — 세 단계

1단계: 고영향 AI인지 판단

고영향 AI는 의료, 에너지, 채용, 대출 심사처럼 사람의 생명이나 권리에 중대한 영향을 줄 수 있는 영역에서 쓰이는 AI입니다. 판단할 때는 법에서 정한 영역에서 쓰이는지와 위험이 얼마나 큰지를 함께 보고, 최종 결정에 사람이 개입하면 통제 가능하다고 보아 고영향 AI에서 제외합니다.

사업자가 먼저 스스로 판단하고, 그래도 불확실하면 과학기술정보통신부에 확인을 요청할 수 있습니다. 입법예고 때 안내된 확인 기간은 기본 30일이고, 한 번 30일 연장할 수 있습니다.

2단계: AI를 쓴다는 사실을 미리 알리기

고영향 AI나 생성형 AI를 활용한 제품·서비스를 제공하는 사업자는 AI가 쓰인다는 사실을 이용자에게 미리 알려야 합니다. 알리는 방법은 시행령에서 여러 가지를 허용해 사업자가 이행하기 쉽게 했습니다.

3단계: 결과물 표시

결과물 종류 표시 방법
딥페이크 (실제와 구분하기 어려운 가상의 소리·이미지·영상) 이용자의 나이 등을 고려해 명확하게 알아볼 수 있는 방법으로 표시
그 밖의 생성물 (애니메이션, 웹툰 등) 눈에 보이는 표시뿐 아니라 보이지 않는 디지털 워터마크, 알림창·화면(UI) 안내 방식도 허용

구체적인 표시 기준은 과학기술정보통신부의 「인공지능 투명성 확보 가이드라인」에 정리돼 있습니다.

시행 초기에는 계도 중심

정부는 시행 초기 최소 1년 이상을 계도기간으로 운영하겠다고 밝혔습니다. 이 기간에는 과태료보다 안내와 계도를 우선하고, 사실조사는 인명 사고나 인권 훼손처럼 중대한 사회적 문제가 생긴 극히 예외적인 경우에만 하겠다는 방침입니다.

기업을 위한 지원도 함께 운영됩니다. 1월 22일 문을 연 AI 기본법 지원데스크에서 법·제도와 기술 분야 상담을 받을 수 있고(일반 상담은 평일 기준 72시간 안에 회신), 계도기간에는 투명성·안전성 의무 이행을 위한 컨설팅 비용도 지원합니다.

초대형 AI 모델의 안전성 의무: 학습에 쓴 누적 연산량이 10²⁶ FLOPs 이상이면서 최첨단 기술을 적용하고, 사람의 기본권에 광범위하고 중대한 영향을 줄 우려가 있는 AI는 별도의 안전성 확보 의무를 집니다. 일반 기업이나 개인 개발자가 해당하는 경우는 드뭅니다.

이용자가 알아 두면 좋은 것

  1. AI 표시가 있는 콘텐츠는 한 번 더 확인 — 특히 실제 인물이 나오는 영상·음성은 딥페이크일 수 있습니다.
  2. 내가 만든 AI 콘텐츠도 다른 법은 지켜야 함 — 표시 의무가 없더라도 남의 얼굴·목소리를 무단으로 쓰거나 허위 광고에 쓰면 관련 법으로 제재받을 수 있습니다.
  3. 채용·대출 심사에 AI가 쓰였는지 궁금하면 — 고영향 AI는 사전 고지 대상이므로 서비스 안내나 약관에서 확인할 수 있습니다.

정리

AI 기본법의 표시·고지 의무는 AI 제품·서비스를 제공하는 사업자에게 있습니다. 사업자는 고영향 AI인지 판단하고, AI 사용 사실을 미리 알리고, 생성물(특히 딥페이크)에 표시해야 합니다. 시행 초기 1년 이상은 계도기간이며, 이용자는 이 법의 표시 의무는 없지만 다른 법은 그대로 지켜야 합니다.

참고 자료

  1. 대한민국 정책브리핑 「'인공지능기본법' 22일 시행…생성형 AI 결과물 '워터마크' 표시 의무」
  2. 대한민국 정책브리핑 「"AI로 생성된 결과물" 고지해야…AI기본법 시행령 입법예고」
  3. 과학기술정보통신부 「인공지능 투명성 확보 가이드라인」 공개 (보도자료)
  4. 과학기술정보통신부 「고영향 인공지능 해당 여부 확인 요청」 안내

#AI 기본법#생성형 AI#딥페이크

글쓴이 · 김도담

정부·공공기관이 발표한 원문을 직접 확인하고, 숫자는 다시 계산해 표와 도식으로 정리합니다. 이 사이트가 글을 쓰는 원칙

관련 글

↑