AI(인공지능) 윤리·신뢰성 분야 전문가로 알려진 서울여대 김명주 교수가AI안전 연구소 초대 소장에 임명됐다.
AI분야의 세계적인 이슈인 AI안전을 평가·연구하고, 주요국 AI 안전 연구소와 협력하기 위해 발족하는 AI안전연구소는 이달 판교 글로벌R&D센터에 문을 열 예정이다.
과학기술정보통신부는 AI안전연구소 초대 소장에 김명주 서울여대 정보보호학부 교수를 임명했다고 12일 밝혔다. 임기는 이날부터 3년이다.
김 소장은 서울대 컴퓨터공학과에서 학·석·박사 학위를 받은 국내 AI 윤리·신뢰성 분야 최고 전문가 중 한사람이다.
바른AI연구센터장, 국제AI윤리협회장, AI윤리정책포럼 위원장 등을 맡으며 안전하고 책임 있는 AI 개발·활용 확산을 위해 힘써왔다.
2018년 국내 최초로 지능정보사회 윤리 가이드라인 서울PACT를 개발, 과기부 근정포장을 수상했다. 한국사이버테러정보전학회 부회장도 역임했다.
경제협력개발기구 글로벌 인공지능 파트너십(OECD GPAI) 엑스퍼트 매니저로 활동하며, 지속 가능한 AI 발전을 위한 국제사회 논의에 활발히 참여하고 있다.
과기부는 김 교수가 그간 AI 윤리·안전 분야에서 축적한 전문성과 경험을 바탕으로 새로 출범할 AI 안전연구소를 글로벌 AI 안전연구를 선도하는 기관으로 발전시킬 적임자라고 평가했다.
한국전자통신연구원(ETRI) 부설기관으로 출범하는 AI안전연구소는 AI안전 정책 및 대외협력실, AI안전 평가실, AI안전 연구실 등 3개의 연구실로 나눠 30여명의 조직을 갖췄다.
AI안전연구소는 앞으로 ▲AI안전에 대한 과학적 이해 증진 ▲AI안전 정책 고도화 및 안전제도 확립 ▲국내 AI기업 안전 확보 지원 등에 적극 나설 계획이다.
AI위험의 정의와 AI안전 평가, 국가차원 관리 주요 AI위험을 정의하고 AI안전 평가방법론 개발 및 완화방안 마련 등 4개 핵심 과제를 주요 핵심 기능으로 설정했다.
댓글
0