인공지능(AI)의 활용이 산업은 물론 사회 전반으로 빠르게 확산하면서 AI의 역기능과 부작용에 대한 우려의 목소리가 높아지고 있다.
생성형 AI, 온디바이스AI 등 AI가 기술적 진화를 거듭하면서 고도화된 AI를 악용한 거짓정보나 가짜뉴스, 딥페이크, 사이버 보안 위협 등에 대한 리스크가 커지고 있는 것이다.
일상 속에 빠르게 스며들고 있는 AI의 잠재적 위험성을 고려해 미국, 유럽 등 선진국들이 안전한 AI의 가이드라인, 즉 도덕적 규범을 정립하려는 움직임이 활발한 것도 바로 이 때문이다.
최근 UN 고위급 자문기구를 필두로 G7(주요7개국)의 AI 히로시마 프로세스, 미국 AI 행정명령, 유럽연합(EU) AI 법 등 국제 사회와 주요국에서 AI규범을 정립하는 노력이 본격화하고 있다.
대한민국도 예외는 아니다. 아직 AI에 대한 법적 제도적 기반은 정립되지 않았지만, AI열기 못지않게 AI윤리에 대한 관심만큼은 그 어느 나라 못지않게 뜨겁다.
◆AI안전성 확보를 위한 국제규범 논의 주도가 목표
작년 6월 산업통상자원부 산하 국가기술표준원이 AI 윤리 관련 국가표준(KS)을 제정한 것이 이를 방증한다. 이 표준은 AI 제품개발·서비스에 필요한 윤리적 고려 항목을 제시하고 자체 점검할 수 있는 체크리스트로 활용되고 있다.
이런 상황에 향후 우리나라가 글로벌 AI안전성 확보를 위한 국제 규범을 만드는 논의를 주도하기 위한 민간 협의체가 가동을 시작, 주목을 받고 있다.
과학기술정보통신부는 AI의 안정성 확보 방안 마련을 위해 산·학·연 전문가들로 구성된 'AI 글로벌 규범 자문단'을 발족, 제1차 회의를 서울 스페이스에이드 CBD에서 개최했다고 16일 밝혔다.
자문단은 오는 5월 우리나라에서 열리는 'AI 안전성 정상회의', 즉 AI서밋을 앞두고 이를 체계적으로 준비하고 산업계·학계의 목소리를 적극 반영하기 위해 발족된 민간 협의체다.
이번 1차 자문단 회의에는 박윤규 과기정통부 차관 등 정부 관계자와 산·학·연 전문가 20여 명이 참석, 작년 제1차 정상회의 결과를 공유하고 5월에 열릴 제2차 정상회의의 주요 목표와 세부 내용에 대해 심도깊게 논의했다.
과기정통부는 참석자들이 글로벌 AI규범의 핵심인 AI 안전성 평가를 비롯해 관련 기업이 취해야 할 조치, 고성능 AI의 사회적 위험성 등을 집중적으로 다뤘다고 전했다.
참석자들은 또 국내 AI 산업 환경에서 실현할 수 있는 글로벌 차원의 AI 안전성 확보와 함께 AI서비스가 동반하는 막대한 전력 소요와 탄소배출 등에 대응하기 위한 에너지 안전성 확보 등 지속가능한 AI 발전을 위한 제안에 대해서도 의견을 나눴다.
과기정통부는 이를 계기로 민간 자문단과 수시로 대면 및 영상회의를 통해 의견을 수렴, 오는 5월 서울에서 열리는 AI정상회의 목표와 의제 설정을 하나하나 구체화할 계획이다.
◆산·학·연 의견 반영, 건강한 AI문화·산업 발전에 기여
과기정통부는 특히 향후 대한민국 AI 산업 육성을 뒷받침할 수 있는 방향으로 이번 정상회의 공동 개최국인 영국과 정상회의 참석 국가들과도 적극 협의해 나갈 계획이다.
박윤규 과기정통부 차관은 "이번 'AI 안전성 정상회의' 개최는 우리나라가 글로벌 AI 규범 및 거버넌스 정립에 기여하고 전 세계와 함께 AI 혜택을 안전하게 누릴 수 있는 좋은 계기가 될 것"이라고 강조했다.
박 차관은 또 "기존 방향성 중심의 AI 이니셔티브에서 나아가 구체적인 AI 안전성 확보를 위한 글로벌 논의를 우리가 주도하고 이 과정에서 국내 산업계와 학계의 의견을 적극 반영해 국내 AI문화의 건전한 발전과 AI산업 발전을 도모하겠다"고 말했다.
과기정통부는 이와함께 영국·미국·일본 등 주요국과 마찬가지로 AI의 안전성에 대한 심도깊은 연구와 평가를 담당하는 ‘AI 안전 연구소’ 설립을 적극 추진할 계획이다.
한편 글로벌 AI규범 마련을 모토로 출범한 AI서밋은 지난해 11월 영국에서 1차 정상회의를 가졌다. 당시 회의에선 주요국 정상과 각료급 인사, 빅테크 CEO 및 글로벌 석학 등이 대거 참석, AI의 위험성을 최소화하기 위한 정부･민간의 역할과 공조 방안을 논의했다.
이번 2차 정상회의는 대한민국이 세계 3번째로 거대 AI를 개발한 AI강국이자 글로벌 첨단 디지털 기술·산업의 독보적인 역량을 인정받아 영국과 공동 개최국이 됐다.
댓글
0