인공지능(AI, Artificial Intelligence)은 인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현하려는 컴퓨터 과학의 세부분야 중 하나이다. 정보공학 분야에 있어 하나의 인프라 기술이기도 하다. 인간을 포함한 동물이 갖고 있는 지능 즉, 자연 지능과는 다른 개념이다. 위키백과
생성형 AI에 대한 규제의 필요성
2024년, 광운대학교 “융합적사고와글쓰기” 수업 과제로 제출한 글입니다.
지난 2022년 말 등장한 언어 생성 모델 기반 서비스, chatGPT의 등장은 대중들에게 본격적인 생성형 AI 시대의 개막을 알리는 동시에 AI를 계속 개발하는 것이 과연 인류에게 옳은 일인가에 대한 의문을 던졌다. 얼마 전 치러진 제22대 국회의원 선거에서는 공직선거법 개정으로 AI 기반 딥페이크를 활용한 선거운동이 전면 금지되었다. 딥페이크를 통해 만들어진 영상이나 이미지가 선거운동에 사용될 경우 가짜뉴스가 범람하고 유권자의 판단을 흐릴 수 있다는 이유에서다. 딥페이크는 AI를 통해 실제와 구분하기 어려운 가상의 음향, 이미지, 영상을 생성하는 기술을 말한다.¹ 선거법 개정 이후 약 2달간 딥페이크 게시물과 관련해 선거관리위원회가 적발한 건수는 무려 209건으로 생성형 AI를 둘러싼 윤리 문제가 더 이상 현실과 동떨어져 있지 않음을 여실히 보여주는 통계이다.²
생성형 AI는 어떻게 인간 고유의 영역이라 여겨졌던 창작의 영역을 빠르게 파고들 수 있었던 것일까? 그러기 위해서는 생성형 AI의 원리에 대해 살펴봐야 한다. 생성형 AI 중 가장 대표적인 종류로는 언어 생성 모델이 있다. AI가 문장을 쓰는 방법은 어떤 문장의 앞부분을 보여주면 AI가 다음에 이어지는 단어를 예측하면서 문장을 생성하는 것이다. 언어 생성 모델은 대량의 텍스트 데이터를 학습하고, 인간의 뇌 구조를 모방한 신경망을 통해 단어 사이의 확률적 패턴을 추론한다. 예를 들어 "아침"이라는 단어 다음에 "식사"라는 단어가 자주 등장하면, 모델은 그 패턴을 인식한다. 이는 문장 사이에 빈칸을 만들고, 문맥을 통해서 빈칸에 들어갈 말을 맞추는 수능 시험의 빈칸 추론 문제와 비슷하다.³ 그러나 단순히 단어 빈도만으로는 문맥을 제대로 파악하기 어렵다. 따라서 최신 언어 모델은 "축구"와 "운동"과 같이 단어 간의 의미 관계도 고려하여 문장을 생성한다.
사용자가 입력한 프롬프트에 따라 그림을 생성하는 이미지 생성 AI 역시 웹툰, 미술 분야에 파장을 일으키고 있다. 이러한 이미지 생성 AI는 보통 디퓨전(Diffusion) 모델을 기반으로 작동한다. 디퓨전 모델은 우선 이미지에 의도적으로 노이즈를 발생시킨다. 그런 다음, 완전한 노이즈의 이미지에서 다시 노이지를 한 단계씩 제거하며 새로운 이미지를 생성하게 된다. 그러나 무작위로 노이즈를 제거한다고 해서 새로운 이미지를 만들어 낼 수 있는 것은 아니다. 따라서 노이즈가 얼마나 추가되었는지를 예측하는 U-Net 모델이 필요하다. 이 과정을 비유하자면 잉크를 물에 떨어뜨려 퍼지도록 한 다음, 잉크를 다시 역추적하여 잉크를 떨어뜨린 지점을 예측하는 것이다. 어떤 텍스트로 그림을 묘사하면, 그 텍스트는 임베딩이라는 컴퓨터가 이해할 수 있는 벡터값으로 변환되어 노이즈 예측에 사용된다. 이를 통해 이미지 생성 AI는 텍스트로 입력한 프롬프트를 기반으로 이미지를 생성해 낼 수 있다.
그렇다면 이러한 생성형 AI는 현재 어디까지 발전했을까? 가장 널리 알려진 생성형 AI 서비스인 ChatGPT의 기반 모델인 GPT는 출시 당시 GPT-3.5에서 현재는 GPT-4까지 공개되어 있다. GPT-4는 57개 과목의 전문 학술 분야 객관식 문항을 통한 생성형 언어 모델 성능 측정 지표인 MMLU 점수에서 GPT-3.5 대비 약 15%P의 향상을 기록했다.⁴ 최근에는 오픈소스 언어 모델도 속속 등장하고 있다. Meta의 Llama 3, Google의 Gemma가 대표적인 예이다. 한편, 텍스트나 이미지를 개별적으로 생성하는 것에서 나아가 여러 형태의 정보를 종합적으로 이해하고 생성할 수 있는 멀티모달(Multi-modal) AI에 대한 연구도 활발하다. 이제 생성형 AI는 이미지, 음성, 동영상을 이해하고 생성할 수 있다. 최근 공개된 GPT-4o는 시각 정보와 음성을 실시간으로 처리하고 1초 이내에 답변을 생성할 수 있다. 단순히 음성을 텍스트로 변환하는 기존 AI와는 달리 호흡이나 주변의 소음 등을 종합적으로 이해하고, 맥락에 따라 말의 빠르기나 억양 등을 달리해 응답할 수 있다. 이러한 멀티모달 생성형 AI는 로봇과 같은 하드웨어와 결합하여 그 무한한 잠재력을 드러내고 있다. 멀티모달 AI가 탑재된 로봇 'Figure 01'은 음성과 시각 정보를 처리하고, 사용자의 요청에 따라 실제 행동을 수행하기도 한다.
이처럼 갈수록 가속화되고 있는 생성형 AI의 발전은 그에 대한 반향도 함께 일으키고 있다.첫째, 생성형 AI는 저작권 침해의 문제를 안고 있다. 생성형 AI가 기존의 작품을 학습하여 새로운 콘텐츠를 생성할 때, 그 과정에서 원저작물의 저작권을 침해할 가능성이 높다. 이는 특히 예술 작품, 문학 작품, 음악 등 창작물에서 두드러진다. AI가 생성한 콘텐츠가 원저작물과 유사한 경우, 저작권자의 권리를 침해하는 결과를 초래할 수 있다. 둘째, 생성형 AI는 가짜뉴스와 허위 정보의 확산에 기여할 수 있다. AI가 생성한 텍스트나 이미지는 사실 여부를 쉽게 확인하기 어렵기 때문에, 이를 악용하여 가짜뉴스를 퍼뜨리는 사례가 증가하고 있다. 이는 사회적 혼란을 초래하고, 대중의 신뢰를 저하할 수 있다. 셋째, 생성형 AI의 발전은 일자리 감소와 같은 경제적 문제를 야기할 수 있다. 예를 들어, AI가 자동으로 기사를 작성하거나 그림을 그릴 수 있게 되면서 기자나 예술가와 같은 직업이 위협받고 있다. 이는 노동 시장에 큰 영향을 미칠 수 있기 때문에, 이에 대한 대비가 필요하다.
이러한 이유로 세계 각국에서는 생성형 AI의 규제를 위한 움직임이 본격적으로 나타나고 있다. 미국과 유럽 그리고 한국에서 시행 혹은 추진 중인 생성형 AI 규제 사례를 살펴보면 다음 표와 같다.
미국 | 유럽(EU) | 한국 |
AI Bill of Rights(2022): AI 시대에 미국인의 권리 보호 및 혜택 공유를 위한 청사진 제시.
저작권 청 실무지침 제306조: 인간이 창작하지 않은 AI 작품에 대한 저작권을 인정하지 않음.
생성형 AI 사용 지침(2023): 캘리포니아주 변호사회에서 AI가 생성한 결과물을 법원에 제출하기 전에 신중하게 검토해야 한다고 권고. | 백서(2020): 인공지능에 대한 법적 규제 필요성 언급.
저작권 지침 개정(2019): 온라인 언론출판물에 대한 저작권 보호 강화.
AI Act(인공지능 법) (2024): 인공지능의 안전한 사용 및 권리 보호 목표. | 인공지능 윤리·신뢰성 확보 추진 계획(2023): AI 생성물에 가시적 워터마크 실시 등 윤리 문제 규제 계획 발표. 입법은 진전 없음.
AI 서울 정상회의 ‘서울 선언’ 채택(2024): 세계 각국 정상과 국내외 기업들이 참석해 안전한 AI 개발을 위한 선언서 채택. |
<표1 – 국내외 생성형 AI 규제 관련 입법 현황⁵>
미국과 유럽에서는 이미 수년 전부터 인공지능에 대한 법적 규제의 필요성을 인식하고 관련 법을 개정 또는 제정해왔다. 그 결과 유럽연합은 세계 최초로 AI 규제 법안을 가결하여 생성형 AI의 위험 등급을 4단계로 분류하여 차등적으로 규제하고 있다. 미국의 경우, 오래전부터 저작권 청 실무지침을 통해 저작권 등록 요건으로 ‘인간에 의한 창작물’을 명시해 왔다. 실제로 2022년 2월 미국 저작권청 심사위원회는 인공지능이 창작한 미술작품의 저작권 등록을 거절하는 최종 결정을 내렸다. 이처럼 세계 주요 국가들이 생성형 AI의 규제에 대해 활발히 논의하고 있는 데 반해, 한국은 AI 규제를 둘러싼 입법이 다소 미비한 실정이다. 2023년 발표한 AI 기본법 발의안은 여야 간 갈등의 영향으로 계류되다가 결국 21대 국회 임기 만료와 함께 폐기되었다. 지난 5월 세계 각국 기업 관계자와 정상들이 참석한 AI 서울 정상회의를 개최해 '서울 선언'과 'AI 안전 과학에 대한 국제협력을 위한 서울 의향서'를 채택하여 기존 영미권이 주도하던 글로벌 AI 거버넌스 논의를 한국으로 이끌어왔다는 점은 상징적이다. 그러나 아직 AI와 관련된 제도적 장치가 전혀 마련되어 있지 않은 상황에서 글로벌 AI 규범 정립을 주도하겠다는 것은 어불성설이다.
일각에서는 생성형 AI를 둘러싼 우려가 시기상조이며 규제는 오히려 AI 기술 산업을 저해할 수 있다고 주장한다. 그러나 AI 기술은 우리가 생각하는 것보다 매우 빠르게 발전하고 있다. 1972년 로버트 데나드 박사가 제시한 법칙인 무어의 법칙은 마이크로칩 기술의 발전 속도에 관한 일종의 법칙으로 컴퓨팅 성능이 18~24개월마다 두 배씩 증가한다는 법칙이다. 그러나 2019년에 이미 이 법칙은 깨졌다. AI의 성능이 3.4개월마다 2배씩 향상되고 있으며 이는 무어의 법칙보다 약 7배 빠른 속도라는 조사 결과가 발표된 것이다.⁶ 그로부터 5년여가 지난 지금은 초거대 언어 모델(LLM)이 LLM에 학습시킬 훈련 데이터를 직접 생성하는 수준에까지 이르렀다. 만약 AI 기술이 더욱 발전하여 AI 모델 스스로가 개선된 모델을 학습시키는 재귀적 자기 개선 단계에 이르게 되면, 인간이 AI를 통제하기에는 이미 너무 늦을 것이다. 물론 과도한 규제는 AI 기술 발전을 저해할 수 있다는 점에 동의한다. 실제로 검열된 모델은 그렇지 않은 언어 모델보다 성능이 하락한다는 의견도 존재한다. 하지만 기술 발전 저해를 우려해 생성형 AI의 규제를 마련하지 않는다면, 미래에 직면하게 될 부정적 영향과 위험성이 기술 발전 가속화로 얻는 이점보다 클 수 있다. 프라이버시 침해, 허위 정보 확산, 지식재산권 침해 등 현재 드러나고 있는 문제를 넘어 AI가 인간의 통제를 벗어나 자율적으로 진화하게 된다면 인류에게 치명적인 위협이 될 수 있다.
기술이 발전하면서 우리는 기술을 더욱 인간적으로 만들려는 노력을 기울이고 있다. 반대로, 인간은 점점 기술화되고 있다. 스마트폰, 가전제품부터 이미 우리 일상 깊숙이 스며든 AI에 이르기까지 우리의 일상은 이미 상당 부분 기술에 의존하고 있다. ‘인간다움’이란 무엇일까? 그것이 정말 인간다움일까? ⁷ 이러한 의문이 던져지는 현시점에서, 생성형 AI의 부작용과 위험성을 간과한다면 인류는 인간다움을 잃는 돌이킬 수 없는 상황에 직면할 수 있다. 따라서 AI 기술에 대한 규제와 가이드라인 마련은 시급한 과제이다. 다만 과도한 규제는 기술 발전을 저해할 수 있으므로, AI 기술의 투명성, 책임성, 공정성, 안전성을 담보하는 동시에 AI 기술에 대한 지속적인 연구 및 개발을 장려하기 위한 정책도 함께 시행되어야 한다. 이를 위해서는 정부, 기업과 사용자, 전문가 등 모든 이해관계자가 참여하는 열린 논의 구조가 구성되어야 할 필요가 있다. AI가 사람에게 위협이 되는 존재가 아닌 사람을 위한 기술로서 미래 세대에게 이어질 수 있도록, 이제 생성형 AI에 대한 규제에 관심을 두고 적극적인 추진을 통해 함께 앞으로 나아가야 할 때이다.
참고 문헌 —
¹ 김진호, 「선관위, 선거법 위반 469건 적발…‘딥페이크’ 207건 삭제 요청」, 『KBS 뉴스』, 2024.3.26.
² 주희연, 「29일부터 AI딥페이크 선거운동 금지...당내 경선엔 허용」, 『조선일보』, 2024.1.19.
³ 송경빈, 『인공지능 구조 원리 교과서』, 보누스, 2024, 156-157쪽.
⁴ https://openai.com/index/gpt-4-research/
⁵ 이종구, “저작권법상 인공지능 창작물의 저작자와 입법적 보완”, 「경영법률」 제29권 제2호, 한국경영법률학회, 2019, 503면.
양은영, 「생성형 AI의 개발 및 이용에 관한 규제의 필요성 - 대규모 언어모델에 기반한 대화형 인공지능 서비스(LLMs AI)를 중심으로 -」, 성균관법학, 2023, 308-311쪽.
김예슬, 「다큐 침범한 AI… AI 기본법은 국회서 낮잠」, 『서울신문』, 2024.5.1.
김법연, 「인공지능 통제수단으로서 주요국 규제 입법의 동향과 시사점」. 유럽헌법연구, 2024, 260-261쪽.
⁶ Raymond Perrault 외, Artificial Intelligence Index Report 2019, Standford University Human-Centered Artificial Intelligence, 2019, 65면.
⁷ 윤태인, <우리가 빛의 속도로 갈 수 없다면> 간접 인용
댓글