11일 서울 여의도 국회의원회관에서 '글로벌 AI 안전 생태계 주권 확보를 위한 정책토론회'를 열렸다. /사진=정연 기자


한국이 AI G3 국가로 도약하기 위해선 AI 안전 주도권을 확보해야 한다는 분석이 나왔다. 안전한 AI 생태계를 구축해 기술 신뢰도를 높이고, 나아가 우리 기업이 관련 규제 묶여 국제 경쟁력을 잃지 않도록 국가적 지원 체계가 뒷받침돼야 한다는 진단이다.


11일 AI 미래가치포럼은 서울 여의도 국회의원회관에서 '글로벌 AI 안전 생태계 주권 확보를 위한 정책토론회'를 개최했다. 이날 토론회에서는 AI 안전 필요성과 글로벌 트렌드, 국제 표준 마련 방안 등에 관한 심도 있는 논의가 이뤄졌다.

발제자로 나선 김명주 ETRI AI안전연구소장은 다양한 해외 사례를 통해 AI 안전의 중요성을 시사했다. 김 소장은 지난해 노벨 물리학상 수상자 제프리 힌턴 교수의 말을 인용해 "그는 '인류가 AI를 활용해 역사상 가장 큰 혜택을 누릴 것이지만, AI 부작용과 역기능을 처리하기 위해 받은 혜택의 2배를 쏟아부어야 할 것'이라고 말했다"며 AI 안전의 시급성을 언급했다.


챗GPT가 안전 한계를 충분히 해소하지 못한 채 시장에 빠르게 확산하면서, AI 안전·보안에 대한 우려가 커졌다고 짚었다. 실제로 구글 모회사 알파벳은 챗GPT보다 강력한 AI 플랫폼을 개발했지만, 잠재적 사회·윤리적 위험에 대한 통제 장치가 없다는 이유로 출시를 미뤄왔다. 그러나 챗GPT의 등장으로 회사 주가가 폭락한 이후 알파벳은 서둘러 제미나이 전신인 '바드'를 공개했고, 이를 계기로 충분한 안전장치가 부재한 상태에서 치열한 AI 전쟁이 전개됐단 설명이다.

이에 국가마다 AI 안전과 신뢰성 확보를 위한 여러 방안을 마련 중이다. 김 소장은 "우리나라는 일찍이 AI 안전 논의에 적극 참여해 왔고, 여섯 번째로 AI 안전 연구소를 설립했다"고 했다. AI 리스크 맵도 추진하고 있다. 해당 맵은 AI 모델의 부족한 점과 이에 따른 피해 유형, 대응 방안, 윤리 원칙 등을 분석하는 역할이다.


김 소장은 한국이 AI 강국으로 입지를 굳히기 위해선 '안전'을 핵심 경쟁력으로 삼아야 한다고도 강조했다. 김 소장은 "안전이 뒷받침이 될 때 AI 대전환에 속도가 날 것이라고 생각한다"며 "AI 강국인 미국, 중국의 AI 모델보다 훨씬 더 안전한다는 인식을 심어주는 게 AI G3 국가로 나아가는 방법"이라고 했다. 이어 "AI 표준화, 언어 문제 등은 개별 기업에서 신경쓰기 어려운 부분인 만큼 정부나 협의체 등에서 신경을 많이 써야 한다"고 덧붙였다.

이어진 토론에서도 AI 안전 전략에 관한 다양한 의견들이 이어졌다. 특히 토론 과정에서는 AI 안전 장치가 국내 기업들의 경쟁력 제고로 이어지길 바란다고 의견을 제시했다. 황정현 법무법인 세종 AI센터 변호사는 "AI가 더 대중화될수록 오작동, 악용 등의 부작용이 우려되는 만큼 잠재적 위험을 통제하는 장치가 필요하다는 데에 공감이 된다"면서도 "한국에 (AI 안전을 위해) 너무 강력한 규제가 도입되는 게 우려되는 건 사실"이라고 했다. 황 변호사는 "우리나라가 AI 안전 규제를 선도해서 글로벌 사회에서 차별받지 않도록 하는 게 바람직할 것 같다"고 대안을 제시했다.


AI 안전 체계가 기업들의 불확실성을 줄일 수 있다는 의견도 나왔다. 민대기 이화여대 교수는 "기업들은 AI 리스크가 언제 어떤 형태로 나타날지, 또 어떻게 대응해야 할지에 대한 고민이 크다"며 "잠재적 위험을 선제적으로 고민하는 건 매우 고무적인 흐름"이라고 했다. 민 교수는 기업을 위한 AI 안전 가이드 마련의 필요성에도 힘을 실었다. 그는 "안전한 AI 비즈니스를 위해 국가 차원에서 관련 가이드를 고민해주면 좋을 것 같다"고 했다.

AI 안전 체계가 기업의 불확실성을 줄일 수 있다는 의견도 제기됐다. 민대기 이화여대 교수는 "기업들은 AI 리스크가 언제 어떤 형태로 나타날지, 또 어떻게 대응해야 할지에 대한 고민이 크다"며 "이러한 잠재적 위험을 선제적으로 논의하는 것은 매우 바람직한 흐름"이라고 말했다. 그는 특히 기업을 위한 AI 안전 가이드 마련의 필요성에 무게를 두며 "안전한 AI 비즈니스를 위해 국가 차원에서 명확한 가이드라인을 제시해줄 필요가 있다"고 강조했다.