[D리포트] AI 특이점이 오면 인간은 알 수 있을까…'인공지능과 공생'

2016년 3월 13일, 이세돌 9단을 4 대 1로 꺾은 알파고.

전 세계에 충격을 준 비결은 끝없는 '인간의 기보' 학습이었습니다.

하지만 9년이 지난 지금 알파고 제로, 알파 제로와 같은 이후 세대 모델들은 더 이상 기보를 학습하지 않습니다.

이미 사람의 실력을 넘어, 사람이 둔 기보를 학습 데이터로 삼으면 성능이 오히려 저하되기 때문입니다.

현재 챗GPT 등 AI 거대 언어모델들도 몇몇 작업에선 사람을 뛰어넘는 수준에 도달했습니다.

머지않아 자신만의 지능이 있는 '일반 인공지능(AGI)', 또 인간의 지능을 뛰어넘는 '초지능'(ASI)이 도래할 거란 예측이 나오는 가운데,

[하정우/네이버클라우드 AI이노베이션 센터장 : 딥마인드의 연구자들이 5년 정도 보더라고요. 5년이면 앞서서 정의한 정도, 특히 조직 전체를 자동화하거나 대체할 수 있는 수준의 AGI 가능해 보인다 얘기를 하고 있습니다.]

인간이 계속해서 인공지능을 통제 할 수 있을지에 대해선 의견이 분분합니다.

[김건희/서울대 컴퓨터공학부 교수 : 10년 전에 이제 스마트폰이라는 기기가 나왔죠. 이 알고리즘에 자기가 종속돼 있다 그렇게 이제 느끼시는 분들도 많이 있을 걸로 생각합니다. 그래서 미래의 인공지능이 사람을 통제할 위험은 충분히 있다고 생각을 하고요.]

[하정우/네이버클라우드 AI이노베이션 센터장 : 인공지능의 모델 구조 능력치를 평가하는 방법, 그리고 어떤 데이터로 학습을 할 건지 이런 부분들을 아직은 사람들, 인공지능을 만드는 사람들이 거의 대부분을 정해주는 단계이기 때문에….]

인간의 지능을 뛰어넘더라도 공존의 방법을 찾아야 한다는 목소리도 있습니다.

[임우형/LG AI 연구원 Applied AI 연구그룹장 : 쉽게 생각해서 계산기가 나왔을 때도 인간의 능력을 계산기가 이미 넘어선 지 오래지만 그거를 두려워 하기보다는 잘 활용을 하고 있잖아요. 인공지능이 우리가 원하는 방향대로 인간을 도와줄 수 있게 만들지, 이런 고민을 해야 된다고 생각을 하고 있고요.]

그럼 일반 인공지능과 초지능 등이 도래할 때 그 증상들을 포착할 방법도 있을까.

[김건희/서울대 컴퓨터공학부 교수 : 우선 소프트웨어 테스트는 소프트웨어 품질을 검증하고 사용자 요구 사항을 충족하는지 확인하는 과정이며 현재의 AI 기업들 포함 모든 소프트웨어 개발 업체는 정해진 프로토콜대로 수행하고 있습니다.]

또한 레드티밍은 AI에 다양한 적대적 공격 시나리오를 적용하여 방어자의 편견을 제거하는 방식으로 OpenAI 등 많은 AI 개발업체가 적극적으로 채용하고 있습니다.

모델들을 테스트하는 방법으로 각 기업들도 모니터링을 이어가고 있습니다.

[윤경아/KT Agentic AI 연구소장 : 폭력성이라든가 혐오, 차별이라든가 정치 종교에 대한 중립이라든가... 관련 정책이나 모니터링이 또 투명하게 지속되고 이렇게 간다면 일반 인공지능이 도래할 때 사실 저희가 이를 조금 더 쉽게 감지하지 않을까….]

발전하는 인공지능과의 공존을 위해선 결국 '가치 지향점이 있어야 한다'는 의견이 많습니다.

[윤경아/KT Agentic AI 연구소장 : 실질적으로 좀 인간에게 유해하지 않은 안전한 그런 모델을 만들려고 할 때 이 모델이 갖춰야 될 가치관을 정립하는 게 사실 상당히 어려운 문제라고 봅니다.]

[홍성욱/서울대 과학학과 교수 : 정부나 기업 학계 모두 인공지능 개발에 올인하고 있다는 생각이 드는데요. 또 하나의 주체여야 하는 시민 사회가 좀 빠져 있지 않는가 하는 생각을 하게 됩니다.]

AI 안전성과 관련해 사람들의 가치에 잘 정렬할 수 있도록 하는 '얼라인먼트' 연구가 그 예입니다.

[하정우/네이버클라우드 AI이노베이션 센터장 : 인공지능의 어떤 행동이라든가 결과물들은 사람을 위한 가치에 잘 맞춰야 된다라는 부분입니다.]

인간에게 유해하지 않은 모델의 발전을 위해선 결국 더 많이 써보고 더 많이 연구해야 더 안전할 수 있다고 전문가들은 입을 모았습니다.

[임우형/LG AI연구원 Applied AI 연구그룹장 : 위험한 부분도 역시 많이 얘기를 해주면서 인공지능과 함께 이렇게 발전을 하는 것이 더 중요할 것 같아서요. '좀 친하게 지내자' 하는 말씀을 드리고 싶습니다.]

(취재 : 여현교, 영상편집 : 윤태호, 제작 : 디지털뉴스편집부)