26일 국회의원회관 제6간담회의실에서 열린 'AI 대전환의 동력, 데이터 활용 입법 개선 과제' 토론회 참가자들이 단체 사진을 찍고 있다. /사진=지선우 기자


"개인정보 문제는 정치와 이념화돼 해결하기가 어렵다."

26일 서울 여의도 국회의원회관 제6간담회의실에서 열린 'AI 대전환의 동력, 데이터 활용 입법 개선 과제' 토론회에서 좌장을 맡은 김민호 성균관대학교 법학전문대학원 교수는 이같이 말했다. 저작권 문제는 일정 부분 제도적 해결이 이뤄졌지만 개인정보는 민감한 사안으로 막혀 AI 대전환을 가로막고 있다는 취지다. 그는 "인공지능(AI) 학습을 하지 못하게 하는 것이 저작권·개인정보"라고 강조했다.


토론회에서는 개인정보 문제 해결을 위해 AI 업계·법조계·국회의원·교수 등 각 분야 전문가들이 모였다. 여야 국회의원 연구단체 '유니콘팜'이 주최하고 스타트업얼라이언스가 주관했다. 유니콘팜 공동대표인 배현진 국민의힘 의원(서울 송파구을)과 김한규 더불어민주당 의원(제주 제주시을)도 참석해 제도 개선 필요 사항을 논의했다.

AI 경쟁이 치열해지면서 데이터 학습 과정에서 저작권·개인정보 문제가 부각되고 있다. 방성현 김&장 법률사무소 변호사는 현행 한국 저작권법에 대해 "데이터 학습 관련 공정이용 조항이 있다"며 "미국은 판례가 정착되어 있는데 한국은 아직 없다"고 설명했다. 이어 "일본은 2018년 저작권법에서 가장 넓게 면책을 인정한다"며 "싱가포르는 공정이용 규제를 두면서 데이터 분석·준비 작업 이용은 예외로 둔다"고 했다. 한국만 데이터 학습에 대한 제도적 대비가 부족하다는 지적이다.


개인정보 관련해서도 방 변호사는 "동의 기반 개인정보 사용이 맞는가"라며 "사전에 동의를 받아야만 적법하다고 보는 것은 정보주체 권리를 실질적으로 보장한다고 보기 어렵다"고 말했다. 그는 현행 개인정보보호법의 '정당한 이익' 조항이 "정보주체 권리보다 명백하게 우선할 것을 요구한다"며 "이 '명백하게' 요건을 넘기 어렵다. 사업자가 겪는 가장 큰 문제"라고 우려했다. 서비스 제공자가 데이터를 학습하기 전 단계에서 해당 서비스가 정당한지 판단하기 어렵다는 것이다.
26일 국회 정책 토론회서 발언하고 있는 김현경 서울과학기술대학교 IT정책전문대학원 교수. /사진=지선우 기자


개인정보를 학습 데이터에 쓰는 것이 법안 취지와 다르다는 주장도 나왔다. 김현경 서울과학기술대학교 IT정책전문대학원 교수는 "학습 데이터 사용은 모든 인공지능의 인풋 단계"라며 "개인정보보호법은 개인정보 식별을 막기 위해 만들어졌는데 학습 데이터는 인풋 단계"라고 말했다. 식별 방지를 위한 법의 취지와 AI 학습 활용은 성격이 다르다는 얘기다. 김 교수는 "개인정보보호법 체계 자체를 다시 고민해야 한다"고 제언했다.

AI 업계 관계자들도 개인정보 규제가 산업 발전을 막고 있다고 호소했다. 신재민 트릴리온랩스 대표는 "LLM(거대 언어 모델)을 만드는 회사로서 약 100테라바이트의 데이터를 보유하고 있는데 웹상 공개 데이터를 위주로 모았다"고 말했다. 그는 "개인정보를 AI나 알고리즘으로 걸러내는 방식을 쓰는데 LLM 학습은 사람이 생산한 자연스러운 데이터를 학습해야 한다"며 "필터링을 거치면 데이터가 자연스럽지 않다"고 했다. AI 모델 구축 경쟁에서 뒤처질 수 밖에 없는 이유다.


정일권 두들린 CTO(정보보호 최고책임자)도 현실적인 어려움을 토로했다. 채용관리 솔루션을 제공하는 두들린은 이력서 제출부터 면접까지 전 과정이 플랫폼을 통해 이뤄진다. 정 CTO는 "수탁자 입장에서 초기 개인정보 수집과 목적 달성이 어렵다"며 "동의 절차부터 기업으로부터 데이터를 전달받는 과정까지 모두 쉽지 않다"고 말했다.

업계와 학계의 제도 개선 요구에 대해 유니콘팜 공동대표 배현진·김한규 의원은 입법 차원의 노력을 약속했다. 배 의원은 "한국은 온라인 활용도가 높은 국가라 법에 관심 없는 일반인도 개인정보에 대한 주인의식이 있다"며 "국민 의식 변화만 기대해서는 데이터 활용이 어렵다. 데이터 학습과 국민 의식을 선도할 수 있는 입법을 통해 개인정보를 안전하게 활용할 수 있다는 점을 알려야 한다"고 강조했다.


김 의원은 "여론만 있다면 국회 특성상 개인정보보호법 개정안은 빠르게 통과될 수 있다"며 "개인정보 주체의 이익보다 명백히 우선한다는 사회적 합의가 필요한데 지금 법은 너무 추상적"이라고 지적했다. 이어 "사업자 입장에서 예측 가능성이 너무 떨어진다"며 "국민 삶에 도움이 되고 편의를 높이는 AI 산업이라면 추상적 조항을 없애고 구체화해야 한다"고 말했다.