[취재파일] 세계 AI 안전 책임자들 한자리에…트럼프 2기, AI 국제 공조의 미래는?

다음 주 세계 인공지능(AI) 안전연구소(AISI, AI Safety Institute) 수장들이 한자리에 모입니다. 미국 바이든 행정부 주관으로 오는 20일과 21일 양일간 미국 샌프란시스코에서 국제 AI 안전연구소 네트워크(International Network of AI Safety Institutes) 행사가 열릴 예정입니다. 초기 참가국은 우리나라를 비롯해 미국, 영국, 유럽연합, 일본, 싱가포르 등입니다.

이번 행사에서는 급속하게 발전하고 있는 AI의 안전하고 신뢰할 수 있는 개발을 위한 글로벌 협력 강화 방안이 논의됩니다. 구체적으로는 AI 안전 과학을 발전시키고 AI 개발 및 사용이 전 세계에서 공평하게 공유되도록 하는 국제 협력을 위해 각 회원국의 AI 안전연구소 전문가들이 처음으로 모인다는 의의가 있습니다.

이번 샌프란시스코 행사를 앞두고, 지난 5월 'AI 서울 정상회담'을 공동 진행했던 영국 정부를 대표해 이번 행사에 참가하는 올리버 아일럿 AISI 소장(Oliver Ilott, AISI Director)을 SBS를 비롯한 한국 언론 6개 사가 공동 면담했습니다. 영국 AISI 초대 수장인 올리버 아일럿 소장은 영국 총리실 전 수석 부실장 출신으로, 영국 '브렉시트'(EU 탈퇴) 업무 등을 맡았던 행정 관료입니다. 아일럿 소장과의 면담은 한국언론진흥재단의 '2024 KPF디플로마-AI저널리즘' 과정의 지원으로 성사됐으며, AISI 설립 1주년을 앞둔 지난달 25일(현지시간) 영국 런던 현지서 이뤄졌습니다.


한-영 AI 안전연구소 교류의 핵심 창구인 아일럿 소장은 SBS 등과 처음 만난 자리에서 "지난 5월 AI 서울 정상회의에 참여할 수 있어서 매우 영광이었고, (11월 샌프란시스코 AI 행사 등) 국제 AI 회담에 앞으로도 긴밀히 협력하고자 한다"고 말했습니다. 영국 정부는 브렉시트 여파로 지난 8월 공표된 유럽연합(EU)의 AI법에 참여하지 못했습니다. EU AI법은 AI에 관한 세계 최초로 포괄적 규제 조항을 담은 법입니다. 영국은 독자적으로 AI 정책 및 관련법 입안 필요성 때문에 우리나라와 미국 등과의 AI 안전 협력에 힘을 쏟고 있는 것으로 알려졌습니다.


아일럿 소장은 "우리의 핵심 임무 중 하나는 우리가 하는 일을 다른 나라 정부와 공유하는 것"이라며 AISI의 국제협력 활동에 대해 설명했습니다. 영국 AISI는 AI 모델을 테스트할 수 있는 자체 소프트웨어를 개발해 오픈소스로 공개했는데, 다른 나라 정부와 이 소프트웨어를 함께 활용해보고자 한다고 덧붙였습니다.


우리 정부는 지난 5월 영국 정부와 공동으로 'AI 서울 정상회의'를 개최했습니다. 이때 나온 '서울선언'의 후속 조치가 다음 주 열리는 AI 안전연구소 네트워크 샌프란시스코 행사입니다. AI 안전연구소 설립과 글로벌 협력 방안은 서울선언의 핵심 의제였습니다. 이번 샌프란시스코 행사를 앞둔 지난 12일, 과학기술정보통신부는 한국전자통신연구원(ETRI) 산하 AI 안전연구소 초대 소장에 김명수 서울여대 교수를 임명하기도 했습니다.


영국 정부는 지난해 AI 안전 정상회의를 계기로 AI 안전연구소(AISI)를 설치했습니다. AISI는 영국 과학혁신기술부(DSIT) 산하 기관으로, AI 안전성 시험과 AI 안전성 확보를 위한 실증적 연구를 수행하고 있습니다. 지난 5월 AI 서울 정상회의 이후 우리나라 과학기술정보통신부 관계자들이 AISI를 방문해 현장을 점검하고 관련 세부사항을 국내 AI 안전연구소 설립 과정에 반영한 것으로 알려졌습니다.


이와 관련해 아일럿 소장은 AISI의 중요한 기능 중 하나인 AI 모델 테스트를 어떻게 수행하고 있는지 구체적으로 공개했습니다. AI 모델이 사이버 공격을 감행하거나, 악의적 행위자가 화생방 무기를 개발하는데 AI가 악용될 수 있는지 등을 검토하는 연구, AI 모델이 항상 인간의 기대대로 작동하는지 혹은 AI 모델 개발자들이 혐오발언을 방지하기 위해 넣은 보호 장치들이 특정 세력의 공격을 받으면 무력해질 수 있는지 등의 연구들을 수행하고 있다고 언급했습니다. 아일럿 소장은 "우리 연구는 단순히 테스트에 그치지 않고, AI에 직면한 사회적 회복력, 즉 시스템 안전에 대한 연구와 AI가 가져올 변화에 사회가 대비할 준비가 되어 있는지, 잠재적인 해악이 무엇일지를 연구하고 있다"고 말했습니다.


AI 안전에 대한 글로벌 협력 논의는 1년 전 영국에서 시작됐습니다. 지난해 11월 초, 우리나라와 미국, 영국 등 주요 국가 정부 대표들은 영국 블레츨리 파크에서 제1회 AI 안전 정상회의를 열었습니다. 블레츨리 파크는 세계 2차 대전 당시 영국의 유명 수학자 앨런 튜링이 독일군의 암호를 해독한 '이니그마 프로젝트'를 수행했던 곳으로, 현대 컴퓨터 과학의 발상지로 자리매김한 곳입니다. 아일럿 소장은 "우리 조직은 정부 공무원들과 민간 기술 전문가들이 50대 50 비율로 구성됐는데, 영국 정부 내에서 상당히 독특한 실무형 조직"이라고 설명했습니다. 피상적인 AI 정책을 수립하는 것이 아니라, AI의 실제 위험을 측정하는 실증적 연구 조직으로 운영되고 있다는 의미입니다.


생성형 AI 시대에 AI 기술이 민주주의를 위협할 가능성에 대한 SBS의 질문에 아일럿 소장은 "영국 정부는 앞으로 가장 강력한 AI 모델 몇 가지에 적용할 규제 법안을 도입하겠단 방침을 이미 발표했다"고 말했습니다. 영국 정부는 이미 '온라인 해악 방지법(Online Harms Act)'을 통과시켰으며, 여기에는 민주주의 보호와 관련된 조치도 포함돼 있다고 덧붙였습니다. 그러면서 "세계 많은 AI 개발 빅테크 기업들이 지난해 '블레츨리 서밋(제1회 AI 정상회담)'에 참여했고, 그보다 더 많은 기업들이 '서울 서밋(AI 서울 정상회담)'에 참석해 AI 안전에 대해 약속하는 서명을 했다"며, "(이런 내용을 담은) 구체적 프레임워크가 내년 2월 예정된 '파리 서밋'에서 문서 형태로 공개될 것"이라고 강조했습니다.


지난해 영국 AI 서밋에는 미국 바이든 행정부를 대표해 카멀라 해리스 부통령이 참석했습니다. 해리스 부통령은 AI 발전이 가져올지도 모를 잠재적, 재앙적 위험을 방지하기 위한 미국 정부의 입장을 수립하는데 중요한 역할을 했습니다. 이후 이번 미국 대선 캠페인 과정에서 해리스 부통령은 AI 윤리적 사용을 위한 규제 강화와 알고리즘 투명성을 강조했고, 도널드 트럼프 당선인은 혁신 주도권 확보를 위한 규제 최소화를 주장했습니다.


트럼프 전 대통령이 이번 미국 대선에서 승리하면서 지난해 영국 블레츨리 서밋과 올해 서울 서밋, 그리고 다음 주 샌프란시스코 네트워크까지 이어지는 AI 안전에 대한 국제 협력 움직임에 먹구름이 끼는 것은 아닌지 우려의 목소리가 나오고 있습니다. AP는 "트럼프 당선인은 바이든 정부의 AI 정책을 전면 철회하겠다고 공언해왔다"고 전했습니다. 트럼프 당선인은 AI 개발에 있어 자유경쟁을 강조하면서도 자신에게 우호적이지 않은 많은 실리콘밸리 빅테크 기업들에 대한 선별적 규제를 예고하기도 했습니다. 임기가 채 석 달도 남지 않은 바이든 행정부가 주관하는 다음 주 샌프란시스코 AI 안전 네트워크 행사가 어떤 성과를 남길 수 있을지 주목됩니다.