과학기술정보통신부와 정보통신정책연구원은 안전하고 신뢰할 수 있는 AI 기본사회 구현을 위한 ‘대한민국 인공지능 윤리원칙’이 과학기술관계장관회의 심의·의결을 거쳐 8월 21일 확정됐다고 밝혔다.
새 윤리원칙은 AI를 개발·제공하거나 이용하는 주체뿐 아니라 사회 전체가 함께 지켜야 할 공통의 가치와 실천 기준을 제시한 자율규범이다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제27조에 따라 마련됐으며, 사회 전 영역에서 수립되는 AI 윤리기준과 지침의 토대가 될 예정이다.
윤리원칙은 AI 관련 사안에 대해 일률적인 해답을 제시하기보다, 구체적인 상황에서 검토해야 할 가치와 원칙을 밝히는 데 초점을 맞췄다. 이해관계자들이 갈등을 줄이고 각 상황에 맞는 균형점을 찾도록 지원한다는 취지다.
윤리원칙은 ‘인간의 존엄성’, ‘사회의 공공선’, ‘인류의 지속가능성’을 3대 가치로 제시했다. 인간의 존엄성은 모든 사람이 수단이 아니라 목적 자체로 존중받고, AI 활용 과정에서도 자신의 삶에 관한 판단과 선택의 기회를 보장받는 사회를 뜻한다.
사회의 공공선은 AI가 개인의 편익을 넘어 사회적 신뢰와 공동의 이익을 높이는 방향으로 활용돼야 한다는 의미를 담고 있다. 인류의 지속가능성은 AI의 편익을 현재와 미래 세대가 함께 누리고, 환경과 사회의 기반이 유지되는 미래를 지향한다.
이를 실현하기 위한 7대 원칙으로는 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성이 제시됐다. AI 행위자는 AI가 사람의 판단과 선택을 돕고 창의성과 문제 해결 능력을 높이는 방향으로 개발·활용해야 하며, 사람이 필요할 때 AI 작동에 개입할 수 있도록 노력해야 한다.
개인정보와 사생활 보호도 주요 원칙으로 포함됐다. AI가 부당한 감시에 활용되지 않도록 하고, 개인정보는 정해진 목적과 필요한 범위 안에서 처리하며 정보주체의 자기결정권을 보장해야 한다는 내용이다.
공정성·포용성 원칙은 AI 개발과 활용 과정에서 특정 개인이나 집단이 부당한 차별을 받지 않도록 편향을 줄이고, 사회적 약자를 포함한 모든 사람이 AI 접근과 혜택의 기회를 공평하게 누리도록 노력해야 한다고 규정했다.
책임성과 관련해서는 AI 생애주기 전반에서 각 주체가 자신의 역할과 책임을 명확히 인식하고 이행해야 한다고 밝혔다. 문제가 발생하면 책임 소재를 밝히고 실질적인 피해 구제가 이뤄지도록 해야 하며, AI 역량과 자원을 많이 보유한 영향력 있는 주체는 그에 상응하는 책임을 다해야 한다.
안전성 원칙은 AI가 사람의 생명, 신체, 정신적 건강에 위해를 주거나 재산상 피해를 발생시키지 않도록 설계·이용해야 한다는 내용을 담았다. AI 위험 수준에 맞는 안전조치를 마련하고 오남용과 외부 공격에 대비하는 한편, 사회 안전과 여론 형성, 사회적 의사결정을 해칠 가능성도 살펴야 한다.
신뢰성 원칙에 따라 AI 행위자는 목적과 활용 맥락을 고려한 최소 성능 기준을 설정하고, 의도된 사용 조건에서 성능이 안정적이고 일관되게 유지되도록 해야 한다. AI가 허용된 권한과 목적 범위 안에서 작동하도록 하며, 이용 과정에서 성능과 작동 상태를 지속적으로 점검해야 한다.
투명성 원칙은 AI가 사용됐다는 사실과 활용 수준, 한계 등 필요한 정보를 이해관계자에게 알기 쉽게 제공하도록 했다. AI의 판단 기준과 위험 수준도 충분히 공유하고 이해하기 위해 노력해야 한다고 명시했다.
과기정통부와 KISDI는 지난해 12월부터 윤리원칙 제정을 추진해 작업반과 자문단을 통해 초안을 마련했다. 올해 5월 29일 초안을 공개한 뒤 산업계, 시민사회, 학계, 관계부처 및 일반 국민의 의견 153건을 접수했으며, 8월 14일 대토론회를 거쳐 최종안을 보완했다.
정부는 AI 활용이 선택의 문제가 아니라 어떻게 책임 있게 활용할 것인가의 문제로 바뀌었다는 점에 주목했다. 이에 따라 AI 공급자뿐 아니라 이를 활용하는 이용자도 책임 있는 AI 활용의 주체로 규정하고, 국가와 기업 등 영향력이 큰 주체가 그에 맞는 책임을 수행해야 한다는 메시지를 담았다.
과기정통부는 향후 사례 중심 해설서와 분야별 자율점검표, 대상별 윤리교육 교재를 마련해 보급할 계획이다. 윤리원칙의 현장 적용을 지속적으로 점검하고 보완하는 한편, 국제사회에도 공유·확산해 나갈 방침이다.
배경훈 부총리는 “AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다”라며 “윤리원칙이 AI에 대한 사회적 신뢰를 높이고 바람직한 개발과 활용, 혜택 확산을 뒷받침하는 실천 기준으로 자리 잡도록 지원하겠다”고 밝혔다.
댓글
0