27일 경기 성남시 판교글로벌R&D센터에서 AI 안전연구소 개소식이 개최됐다. 연합뉴스

인공지능(AI)의 위험에 대응하기 위한 전담 조직 ‘AI 안전연구소’가 문을 열었다.

과학기술정보통신부는 27일 경기 성남시 판교글로벌R&D센터에서 AI 안전연구소를 개소했다. AI 안전연구소는 AI 활용으로 발생할 수 있는 제반 위험을 평가하고, 이를 예방 및 최소화할 수 있도록 정책과 기술을 연구 개발한다. 미국·영국·일본 등 10개국이 참여하는 ‘국제 AI 안전연구소 네트워크’에 합류해 글로벌 협력을 병행한다. 지난 12일 초대 소장으로 임명된 김명주 서울여대 정보보호학부 교수는 이날 개소식에서 “연구소는 규제 기관 성격이 아니라 국내 AI 기업들이 글로벌 경쟁력을 확보하는데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력기관으로 역할할 것”이라고 밝혔다.

김주원 기자

AI 기술 발달에 따른 안보 위협에 국가 차원으로 대응해야 할 필요성이 커졌다. 환각(할루시네이션)·편향성 등 기술적 한계는 물론 딥페이크(영상조작물)·사이버 해킹 등 인간의 악용이 바탕이 된 AI 위험성이 나날이 커지고 있기 때문. 올해 노벨물리학상을 받은 제프리 힌턴 캐나다 토론토대 교수는 수상 직후 인터뷰에서 “AI가 통제 불능의 상태가 될 수 있는 위협에 대해 우려해야 한다”고 경고한 바 있다. 이에 지난해 영국에서 열린 ‘AI 안전 서밋’을 계기로 미국·영국·일본 등 주요국들이 AI 안전연구소를 출범했는데, 우리나라 역시 이러한 흐름에서 연구소를 꾸리게 됐다.

26일 오전 국회 과학기술정보방송통신위원회 전체회의에서 최민희 위원장이 인공지능(AI) 기본법 제정안을 상정하고 있다. 연합뉴스

현재 AI 안전연구소는 한국전자통신연구원(ETRI) 산하에 신설됐다. 연구소의 설립 근거 조항이 담긴 ‘AI 기본법’이 연내 제정되면 법적 근거를 갖추게 된다. 개소식 전날인 26일 국회 과학기술정보방송통신위원회는 전체회의에서 AI 기본법을 통과시켰다. 정식 명칭은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안’. 법제사법위원회를 거쳐 본회의에 상정해 통과되면 우리나라는 유럽에 이어 두 번째로 AI 관련 법안을 제정하게 된다.

현재 12명으로 출범한 AI 안전연구소는 내년에 30명 수준으로 인원을 확충할 계획이다. 향후 AI 기본법까지 제정돼 연구소가 정착되면, 안전한 AI 활용 환경이 마련되는 데 동력이 실릴 것으로 보인다. AI 기본법은 사람의 생명 등에 중대한 영향을 미칠 우려가 있는 ‘고영향 AI’를 규정해 고위험 AI 활용에 있어 기본적인 안전장치를 둘 수 있다.