정부가 「인공지능기본법」을 산업 진흥에 방점을 두고 운영하면서 최소 1년 이상의 계도기간을 두기로 했다. EU의 AI법과 미국 캘리포니아주의 프론티어 AI 모델 규제 시행 사례가 이미 있는 만큼, ‘세계 최초 AI 규제’라는 표현은 사실과 다르다는 점도 함께 제시했다.
EU에서 제정한 AI법(AI Act)은 제정 이후 단계적으로 시행 중이며, 금지 AI 규제와 범용 AI 관련 규정이 이미 시행된 상태다. 미국 캘리포니아주도 프론티어 AI 모델 규제를 시행하고 있다. 정부는 이런 흐름을 근거로, 우리나라가 세계 최초 AI 규제라는 표현은 사실과 다르다고 밝혔다.
정부는 인공지능기본법을 운영하는 과정에서 기업이 준비할 시간을 갖도록 최소 1년 이상 규제 유예기간을 운영하고, 추가 연장도 적극 검토할 계획이다. 계도기간 동안에는 사실조사와 과태료 부과가 유예된다. 제도 시행 초기 업계 혼란을 줄이고 제도를 안착시키기 위한 취지로, 가이드라인 요건을 충족하지 못한 기업이 나오더라도 과태료 부과 대신 컨설팅 중심으로 안내하겠다는 방침이다.
이를 위해 인공지능기본법 지원데스크를 운영해 기업의 문의와 애로사항에 대한 컨설팅을 제공하고, 기업 의견을 수렴해 가이드라인을 지속 보완해 나가기로 했다. 스타트업과 지역기업을 대상으로 한 현장 설명회도 열어 법 설명과 함께 현장의 목소리를 청취하겠다고 밝혔다.
인공지능기본법의 의무 대상은 ‘인공지능사업자’로 한정되며, 인공지능사업자는 ‘인공지능개발사업자’와 ‘인공지능이용사업자’로 구분된다. 인공지능개발사업자는 인공지능을 개발해 제공하는 자를 뜻한다. 다만 개인 취미나 연구 목적 등으로 활용하는 경우는 인공지능개발사업자에서 제외되며, 오픈소스 형태로 공개하거나 유·무상 제공 여부와는 무관하다고 설명했다.
인공지능이용사업자는 인공지능개발사업자가 제공한 인공지능을 이용해 인공지능 제품·서비스를 제공하는 자를 말한다. 인공지능을 요소로 포함한 제품이나, 인공지능 기반 추천·창작 등 서비스를 제공하는 경우가 해당된다. 반면, 인공지능이용사업자가 제공하는 AI 제품·서비스를 제공받은 ‘이용자’는 인공지능기본법상 의무가 없다고 정리했다. 예를 들어 AI 서비스가 의사·변호사·작가 등에게 제공되는 경우, 서비스를 제공하는 쪽이 인공지능이용사업자에 해당하고, 제공받는 전문직 종사자는 ‘이용자’로 분류돼 AI기본법상 의무를 지지 않는다.
정부는 이용자가 AI 제품·서비스를 활용해 제공하는 의료·법률 서비스나 영상·음악 콘텐츠, 웹툰 등은 인공지능 제품·서비스가 아니라는 점도 함께 제시했다. 또한 인공지능사업자에 해당하지 않는 경우 AI기본법에 따른 책임에서는 면책되지만, 현행 다른 법률 준수 의무는 그대로라고 밝혔다. 생성형 AI로 명예훼손 가능성이 있는 영상을 만든 뒤 온라인 플랫폼에 유포하는 등 관계 법령에 저촉되는 행위를 하면, AI기본법이 아니라 해당 법령에 따른 책임이 발생할 수 있다는 설명도 덧붙였다.
적용 범위는 국내 사업자에 한정되지 않는다. 국내 시장이나 국내 이용자에게 영향을 미치는 해외 인공지능사업자에도 인공지능기본법이 적용되며, 일정 규모 이상에 해당하는 인공지능사업자는 국내대리인 지정 의무가 추가될 수 있다고 했다.
투명성 확보 의무와 관련해 정부는 의무가 “생성형 AI 제품·서비스를 제공하는 인공지능사업자”에게만 부과된다고 밝혔다. 생성형 AI 제품 또는 서비스를 이용하는 사람은 인공지능기본법상 투명성 확보 의무가 없다. 방송·언론·출판, 콘텐츠·미디어, 교육·법률·의료·사회복지·통번역, 금융·행정·제조 등 분야에서도 일반적으로 생성형 AI 서비스를 이용해 결과물을 만드는 사업자나 기관은 표시 의무가 없다고 제시했다. 다만 생성형 AI를 탑재한 웹툰 제작 서비스, 생성형 AI 기능을 탑재한 AI 교과서나 AI 법률 지원 서비스, 생성형 AI 기반 ‘AI 보고서 작성’ 서비스처럼 “생성형 AI를 활용해 생성물을 제공하는 서비스”를 운영하는 인공지능사업자에게는 표시 의무가 있다고 설명했다.
표시 체계는 ‘사전 고지’와 ‘표시’로 나뉜다. 사전 고지는 이용자가 서비스를 이용하기 전 단계에서 해당 서비스가 생성형 AI 또는 고영향 AI를 활용한다는 사실을 알리는 방식이며, 이용약관이나 로그인 화면 등으로 고지할 수 있다고 했다. 표시는 이용자가 생성형 AI 서비스를 이용할 때 생성된 결과물이 생성형 AI로 생성됐다는 사실을 나타내는 것으로, 결과물 성격에 따라 가시적 또는 비가시적 방식을 적용할 수 있다.
가시적 표시는 글자나 기호 등 사람이 직관적으로 인식할 수 있는 표식을 뜻하고, 비가시적 표시는 메타데이터나 디지털 워터마크처럼 기계 판독이 가능한 방식으로 설명됐다. 채팅 환경에서 챗봇과 대화하는 동안에는 화면 어딘가에 로고 등 표시가 있으면 충분하며, 매 답변마다 별도의 워터마크를 출력할 필요는 없다고 했다. 또 AI 생성물임을 의미하는 표식은 일반 이용자가 합리적으로 인식 가능한 수준이면 되며, 회사 로고나 ‘AI’, 특정 기호 등도 사용 가능하다고 제시했다.
딥페이크 관련해서는 원칙을 분명히 했다. 딥페이크가 아닌 일반 생성물은 비가시적 표시가 가능하지만, 딥페이크 생성물은 이용자가 직관적으로 인식할 수 있는 가시적 표시 방법만 허용된다는 설명이다. 정부는 범죄에 오용될 수 있는 딥페이크·딥보이스의 경우 AI기본법 시행에 따라 가시·가청적 표시가 적용돼 향후 식별이 더 수월해질 것으로 기대된다고 밝혔다. 유통 과정에서 이용자가 표시를 훼손하고 악용하는 경우, 추후 제재 과정에서 고의성 등을 입증하는 근거가 될 수 있다는 점도 함께 언급했다. 다만 예술적·창의적 표현물은 딥페이크 결과물이라도 전시·향유를 저해하지 않는 방식의 표시를 허용해, 감상에 방해가 되지 않도록 할 수 있다고 했다.
생성형 AI 표시 의무의 적용과 관련해 정부는 계도기간 중 서비스를 업데이트해 결과물에 적절한 표시가 이뤄지도록 조치할 것을 권장했다. 시행일 이전에 생성·제공된 생성물에 대해서는 소급 적용할 필요가 없다는 점도 제시했다. 또한 무료 또는 비영리 목적이라도 생성형 AI를 개발·이용해 제품·서비스를 제공하는 인공지능사업자는 의무 대상이라고 설명했다.
고영향 AI는 사람의 생명과 신체 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로, 법에서 정한 10대 분야에서 활용되는 경우를 의미한다고 정리했다. 고영향 AI 기반 서비스는 투명성 확보 의무 가운데 이용 전 ‘사전 고지’ 의무가 적용된다고 했다.
정부는 과기정통부가 배포한 ‘고영향 인공지능 판단 가이드라인’을 참고해 인공지능사업자가 먼저 해당 여부를 검토할 수 있도록 했다고 밝혔다. 가이드라인으로 판단이 어려운 경우에는 과기정통부에 고영향 AI 해당 여부 확인을 요청할 수 있다. 또한 고영향 인공지능에 해당하는 제품·서비스는 ‘고영향 인공지능 사업자 책무 가이드라인’에 수록된 안전신뢰문서를 작성해 보관하면 된다고 설명했다. AI 의료기기의 경우에는 「디지털의료제품법」상 의무를 이행하면 고영향 AI 관련 책무도 모두 이행한 것으로 간주돼 추가 의무사항은 없다고 밝혔다.
댓글
0