인공지능 규제 수수께끼,"마법을 마법으로 이기는" 방법

중국의 AI 관련 전문 법안은 실현 가능하지만, 여러 가지 현실적인 문제에 직면해 있습니다.

 

세계 각국의 규제가 AI 발전 속도를 따라잡으면서 글로벌 AI 입법 절차가 분명 속도를 내고 있습니다.

 

　　유럽의회는 6월 14일(현지시간) 인공지능법(AI법) 협상 초안을 찬성 499표, 반대 28표, 기권 93표의 높은 표차로 통과시켰습니다. 유럽연합의 입법 절차에 따라 유럽의회, 유럽연합 회원국, 유럽연합 집행위원회는 인공지능법의 최종 조항을 결정하기 위한 '3자 협상'을 시작할 예정입니다.

 

　　유럽 의회는 "최초의 AI 법안을 협상할 준비가 되었다"고 밝혔습니다. 조 바이든 미국 대통령이 AI 통제에 대한 신호를 보냈고, 미국 하원의원이 AI 규제 법안을 제출했습니다. 척 슈머 미국 상원 민주당 원내대표는 "AI 보안 혁신을 위한 프레임워크"를 발표하고 "몇 달 안에" 연방 차원의 AI 법안을 개발할 계획입니다.

 

　　6월 20일에는 바이두, 알리바바, 텐센트 등 26개 기업과 총 41개의 알고리즘이 포함된 중국의 첫 번째 심층 합성 서비스 알고리즘 목록이 발표되었습니다.

 

　　중국, 미국, EU는 모두 정확성, 보안, 투명성이라는 원칙적인 AI 규제 개념을 지지하고 있지만 구체적인 아이디어와 접근 방식에는 많은 차이가 있습니다. 포괄적인 AI 법률 제정의 배경에는 자국의 규칙을 수출하고, 규칙의 이점을 파악하려는 욕구가 있습니다.

 

　　일부 국내 전문가들은 AI 법적 규제가 하루빨리 이루어져야 한다고 촉구하고 있지만 현재 직면한 현실적인 어려움도 무시할 수 없습니다. 또한 규제냐 발전이냐라는 중요한 고려사항이 있습니다. 이것은 이분법적인 선택이 아니지만 디지털 영역에서 이 두 가지의 균형을 맞추는 것은 매우 어렵습니다.

　EU의 질주, 중국과 미국의 속도 향상

 

　　모든 것이 순조롭게 진행된다면 유럽 의회에서 통과된 인공지능 법안은 올해 말 이전에 승인될 것으로 예상됩니다. 세계 최초의 포괄적인 인공지능 규제 법안이 EU에 상륙할 가능성이 높습니다.

 

　　"이 초안은 다른 국가들이 입법을 가속화하도록 영향을 미칠 수 있습니다. AI 기술을 법치주의 규제에 포함시켜야 하는지에 대한 논란은 계속되어 왔습니다. 이제 AI 법안이 통과되면 주로 사용자 정보로 비즈니스 콘텐츠를 생성하는 플랫폼과 같은 관련 온라인 플랫폼은 더 높은 심사 의무가 불가피할 것으로 보입니다." 베이징 항공우주대학 법학대학원의 자오 징우 부교수는 차이나 뉴스위크와의 인터뷰에서 이렇게 말했습니다.

　　“디지털 전략의 일환으로 AI 법안을 통해 AI를 포괄적으로 규제하려는 EU의 전략적 레이아웃도 테이블에 올랐습니다.”

 

　　베이징 완상 티안친(항저우) 로펌의 펑 샤오얀 전무이사는 차이나 뉴스위크와의 인터뷰에서 AI 법안은 EU에 적용되는 것 외에도 EU 외부에 있지만 시스템 출력 데이터가 EU에서 사용되는 시스템 제공업체 또는 사용자도 규제한다고 말했습니다. 이는 법안의 관할권 적용 범위를 크게 확대하고 압수 데이터 요소의 관할권 범위의 끝을 엿볼 수 있게 합니다.

 

　　중국 국제학원의 유럽연구소 부소장이자 연구원인 진 링은 "세계 최초의 인공지능 법안: 혁신과 규제 사이의 어려운 균형"이라는 글에서 인공지능 법안은 EU 인공지능 거버넌스의 도덕적 강점을 강조하고 있으며, 규범적 힘을 발휘하고 규칙 기반의 강점을 통해 기술적 단점을 보완하려는 EU의 또 다른 시도라고 설명합니다. 이는 AI 분야에서 도덕적 우위를 점하려는 EU의 전략적 의도를 반영합니다.

 

　　AI 법안은 2년 동안 준비되어 왔으며, 2021년 4월 유럽위원회는 '위험 분류' 프레임워크에 기반한 AI 법안 제안서를 제출했고, 이후 여러 차례 논의와 수정을 거쳤습니다. ChatGPT와 같은 생성형 AI의 인기에 힘입어 EU 의원들은 긴급하게 또 다른 '패치'를 추가했습니다.

　　새롭게 추가된 AI 법안의 최신 초안에서는 범용 AI에 대한 투명성 요건을 강화했습니다. 예를 들어, 기본 모델에 기반한 생성형 AI는 사용자가 심층 위조와 실제 정보를 구별하고, 불법 콘텐츠가 생성되는 것을 방지할 수 있도록 생성된 콘텐츠에 라벨을 부착해야 합니다. OpenAI, 구글 등과 같은 기본 모델 제공자는 모델 학습 과정에서 저작권이 있는 데이터를 사용하는 경우 학습 데이터의 세부 정보를 공개해야 합니다. 

또한 공공장소에서의 실시간 원격 생체 인식이 '고위험' 수준에서 '금지' 수준으로 변경되어 EU 국가에서는 공공장소에서 얼굴 인식에 AI 기술을 사용할 수 없게 되었습니다.

또한 최신 초안은 침해에 대한 벌금을 최대 3천만 유로 또는 침해 기업의 직전 회계연도 전 세계 매출액의 6%에서 최대 4천만 유로 또는 침해 기업의 전년도 전 세계 연간 매출액의 7%로 상향 조정했습니다. 이는 유럽의 대표적인 데이터 보안 법규인 일반 개인정보 보호법(GDPR)에 따른 최대 벌금인 전 세계 매출의 4% 또는 2천만 유로보다 상당히 높은 금액입니다.

 

　　펑 샤오얀은 차이나 뉴스위크와의 인터뷰에서 과징금 액수가 늘어난 것은 AI 규제에 대한 EU 당국의 의지와 강도를 반영하는 것이라고 말했습니다. 구글, 마이크로소프트, 애플과 같이 수천억 달러의 매출을 올리는 거대 기술 기업이 AI 법 조항을 위반할 경우 벌금은 수백억 달러에 달할 수 있습니다.

 

　　미국에서는 머스크와 다른 사람들의 AI 규제 강화 요구에 대응하느라 바쁜 가운데, 조 바이든 대통령은 6월 20일 샌프란시스코에서 AI 전문가 및 연구자 그룹과 만나 새로운 기술의 위험을 관리하는 방법에 대해 논의했습니다. 당시 바이든은 AI가 사회, 경제, 국가 안보에 미치는 위험을 관리하면서 동시에 엄청난 잠재력을 포착해야 한다고 말했습니다.

 

　　AI에서 위험 관리가 화두가 된 배경에는 미국이 반독점법처럼 AI 기술에 대해 강력한 조치를 취하지 않았고, 아직 연방 차원의 포괄적인 AI 규제법을 도입하지 않았다는 점이 있습니다.

미국의 AI 규제 법안에 대한 발자취

　　미국 연방 정부가 AI 규제에 공식적으로 첫 발을 내딛은 것은 2020년 1월, 새로운 AI 문제에 대한 규제 및 비규제 조치에 대한 지침을 제공하는 AI 애플리케이션에 대한 규제 지침을 발표한 것이었습니다. 2021년에 도입된 2020년 국가 AI 이니셔티브 법안은 AI 분야에 대한 정책 마련에 가깝고, AI 거버넌스 및 강력한 규제와는 아직 거리가 멀었습니다. 1년 후인 2022년 10월 백악관이 발표한 AI 권리장전 청사진(이하 '청사진')은 AI 거버넌스를 위한 지원 프레임워크를 제공하지만 미국의 공식 정책이 아니며, 구속력도 없습니다.

 

　　미국에서는 AI 법안에 대한 진전이 거의 이루어지지 않아 이미 많은 불만을 불러일으키고 있습니다. 많은 사람들이 미국이 디지털 경제의 규칙 제정 측면에서 EU와 중국에 뒤처졌다고 비판해 왔습니다. 그러나 EU의 AI 법안이 마지막 '장애물'에 가까워지자 미국 의회는 최근 입법 추진에 박차를 가할 조짐을 보이고 있습니다.

 

　　바이든의 AI 회의 당일, 민주당의 테드 W. 리우 의원과 애나 에슈 의원은 공화당의 켄 벅 의원과 함께 국가 인공지능 위원회 법안 제안서를 제출했습니다. 한편, 브라이언 샤츠 민주당 상원의원(D-NY)은 상원에서 AI 규제 문제에 초점을 맞춘 동반 법안을 함께 발의할 예정입니다.

 

　　이 법안에 따르면 AI 위원회는 정부, 산업계, 시민사회, 컴퓨터 과학 분야의 총 20명의 전문가로 구성되며, 미국의 AI 규제에 대한 현재 접근 방식을 검토하고, 포괄적인 규제 프레임워크를 개발하기 위해 협력할 것입니다.

 

　　"AI는 사회에서 놀라운 일을 하고 있습니다. 이를 방치하고 규제하지 않으면 심각한 해를 끼칠 수 있습니다. 의회가 가만히 있어서는 안 됩니다." 테드 리우는 성명에서 이렇게 말했습니다.

 

　　하루 뒤인 6월 21일, 척 슈머 상원 민주당 원내대표(뉴욕주)는 전략국제문제연구소(CSIS)에서 연설을 통해 혁신을 장려하는 "인공지능 보안 혁신 프레임워크"("AI 프레임워크")를 공개했습니다. ") - 혁신을 장려하는 동시에 보안, 책임성, 기반 및 해석 가능성을 발전시키는 이 프레임워크는 청사진을 포함한 거시적 계획을 반영합니다. 그는 지난 4월에 프레임워크를 제안했지만 당시에는 세부 사항이 거의 공개되지 않았습니다.

 

　　AI 프레임워크의 이면에는 척 슈머의 입법 전략 중 하나가 숨어 있습니다. 그는 연설에서 "몇 달 안에" 연방 차원의 AI 법안을 마련하고 싶다고 말했습니다. 그러나 미국의 입법 절차는 하원과 상원의 표결은 물론 여러 차례의 청문회를 거치는 등 번거롭고 오랜 시간이 걸립니다.

　　척 슈머는 속도를 높이기 위해 올해 9월부터 혁신, 지적 재산권, 국가 안보, 개인 정보 보호 등 10가지 주제를 다루는 AI 프레임워크의 일환으로 일련의 AI 인사이트 포럼을 개최할 계획입니다. 그는 인사이트 포럼이 AI에 대한 의회 청문회를 대체하는 것은 아니지만, 입법부가 몇 년이 아닌 몇 달 안에 기술에 대한 정책을 도입할 수 있도록 병행하여 운영할 것이라고 외부에 말했습니다. 그는 미국의 AI 법안이 "가을이 되어서야 구체적인 내용을 보게 될 것"이라고 예측했습니다.

 

　　6월 초 국무원 총판판공실은 '국무원 2023년 입법 업무 계획'을 발표하면서 인공지능 관련 법률 초안이 전국인민대표대회 상무위원회의 심의를 위해 준비되고 있다고 언급했습니다.

 

한국어 번역본 

피라미드의 맨 위는 인간 보안에 '용납할 수 없는' 위험에 해당합니다. 예를 들어, 사회적 행동이나 개인적 특성에 따라 사람을 분류하는 점수 시스템은 전면 금지됩니다.

 

　　유럽 의회는 최근 초안에서 AI 시스템의 침입과 차별을 방지하기 위해 '허용할 수 없는 위험'의 목록을 확대했습니다. 공공장소에서의 생체 인식, 감정 인식, 예측적 치안(프로파일링, 위치 또는 과거 범죄 행동에 기반한), 인터넷에서 얼굴 이미지를 무작위로 캡처하는 등 6가지 범주의 AI 시스템이 전면 금지됩니다.

 

　　두 번째 범주는 인간의 안전이나 기본권에 부정적인 영향을 미치며 '고위험'으로 간주되는 AI 시스템입니다. 예를 들어 항공, 자동차, 의료 기기 등의 제품에 사용되는 AI 시스템과 중요 인프라, 교육, 훈련, 법 집행 등 EU 데이터베이스에 등록해야 하는 8가지 특정 영역이 여기에 해당합니다. AI 규정과 사전 적합성 평가에 따라 다양한 '고위험' AI 시스템은 EU 시장에 진출하기 위해 다양한 요건과 의무를 준수하도록 승인받게 됩니다.

 

　　또한 유권자 및 선거 결과에 영향을 미치는 AI 시스템과 Facebook, Twitter, Instagram 등 EU 디지털 서비스법에 따라 4,500만 명 이상의 사용자를 보유한 소셜 미디어 플랫폼에서 사용하는 추천 시스템도 고위험군 목록에 포함될 것입니다.

　　피라미드의 맨 아래에는 위험이 제한적이거나 거의 또는 전혀 없는 AI 시스템이 있습니다. 전자는 특정 투명성 의무가 있으며, 사용자에게 AI 시스템과 상호 작용하고 있음을 알려야 하는 반면, 후자는 의무 요건이 없으며, 스팸 필터와 같은 애플리케이션과 같이 규제가 거의 없습니다.

 

　　AI법은 엄격한 규제 조항으로 인해 업계의 많은 사람들이 날카로운 '이빨'을 가진 것으로 간주합니다. 하지만 강력한 규제와 혁신 사이의 균형을 맞추려는 시도도 있습니다.

 

예를 들어, 최신 초안에 따르면 회원국은 중소기업과 스타트업이 규제 준수 요건을 충족할 때까지 감독되고, 안전한 시나리오에서 혁신적인 AI 시스템을 테스트하기 전에 무료로 사용할 수 있는 '규제 샌드박스'를 하나 이상 구축해야 합니다. 이 제안은 EU에서 당국이 기술 변화를 실시간으로 주시할 수 있을 뿐만 아니라 AI 기업이 규제 압력을 줄이면서 혁신을 지속할 수 있도록 돕는다는 점에서 널리 인정받고 있습니다.

 

앞서 언급한 기고문에서 킴 링에 따르면, EU의 업스트림 거버넌스 접근 방식은 한편으로는 기업이 더 많은 초기 비용을 부담하도록 요구하고 다른 한편으로는 위험 평가의 불확실성 때문에 투자를 꺼리게 만듭니다. 따라서 AI 법안이 유럽 디지털 경제의 혁신과 성장을 지원할 것이라는 집행위의 거듭된 강조에도 불구하고 현실적인 경제 분석은 이러한 결론을 공유하지 않는 것 같습니다. 이 법안은 혁신 촉진과 권리 보호 사이의 균형을 효과적으로 맞추기 어려운 EU의 내재적 갈등을 반영합니다.

 

미국은 EU 및 중국과 마찬가지로 정확성, 보안 및 투명성을 옹호하며 AI 규제에 대한 위험 기반 접근 방식을 지지합니다. 그러나 자오 징우의 견해에 따르면 미국의 규제 사고는 AI를 활용하고 AI 산업의 혁신과 발전을 촉진하여 궁극적으로 미국의 리더십과 경쟁력을 유지하는 데 더 초점을 맞추고 있습니다.

 

"중국과 EU가 '위험 예방과 기술 안전'을 규제 철학으로 삼는 것과 달리 미국은 상업적 개발에 우선 초점을 맞추고 있습니다. 중국과 EU는 AI 기술이 오용되어 개인의 권리를 침해하는 것을 방지하기 위해 AI 기술 애플리케이션의 안전과 보안에 중점을 두는 반면, 미국은 산업 발전에 규제의 초점을 맞추고 있습니다." 자오 징우는 이렇게 말했습니다.

한 연구에 따르면 미국 의회의 법안은 주로 정부의 AI 사용을 장려하고, 안내하는 데 초점을 맞추고 있습니다. 예를 들어, 미국 상원은 2021년에 미국 국방부가 최고의 AI 및 머신러닝 소프트웨어 역량을 확보하기 위해 파일럿 프로그램을 시행하도록 하는 AI 혁신 법안을 발의한 바 있습니다.

 

척 슈머 상원의원은 앞서 언급한 연설에서 혁신을 북극성으로 보고, AI 프레임워크를 통해 AI의 방대한 잠재력을 실현하고 미국이 주도하는 AI 기술 혁신을 지원하고자 합니다. 인공지능 적용에 관한 규제 지침은 첫 페이지에서 기술 및 혁신의 발전을 지속적으로 촉진해야 한다는 점을 분명히 밝히고 있습니다. 2020년 국가 인공지능 이니셔티브 법안의 궁극적인 목표는 무엇보다도 연구 투자 확대와 인력 시스템 구축을 통해 미국이 인공지능 기술 분야의 글로벌 리더로 남을 수 있도록 하는 것입니다.

 

펑샤오옌은 규제 설계를 유도하는 관점에서 볼 때 미국의 법률 및 제도 수준은 여전히 AI 개발에 대한 규제가 취약한 상태이며, 사회 수준에서는 개방적인 태도로 AI 기술의 혁신과 확장을 적극적으로 장려하고 있다고 말했다.

 

보다 명확한 조사 권한과 포괄적인 규제 범위를 가진 EU와 달리 미국은 일부 주와 기관에서 AI 거버넌스를 발전시키는 등 AI 규제에 대해 분산된 접근 방식을 채택하고 있습니다. 그 결과 국가별 AI 규제 이니셔티브는 매우 광범위하고 원칙에 입각해 있습니다.

 

미국의 AI 규제는 분산된 접근 방식, 세부적인 조항이 없어,,,

 

예를 들어, 미국 AI 거버넌스 정책의 획기적인 사건인 청사진은 안전하고 효과적인 시스템, 알고리즘 차별 방지, 데이터 프라이버시 보호, 통지 및 명확성, 의사 결정에 대한 인간 참여 등 5가지 기본 원칙을 제시하고 있지만 세부적인 조항은 제시하지 않고 있습니다.

　　펭에 따르면 청사진은 구체적인 실행 방안을 제시하는 것이 아니라 AI 시스템의 설계, 사용 및 배포를 안내하기 위해 고안된 원칙 기반 규정의 형태로 AI 개발을 위한 기본 프레임워크를 구축하는 것이라고 합니다.

 

　　"이러한 규정은 의무사항이 아니며, 이는 미국이 AI 산업 발전을 지원하기 위해 고려한 사항입니다. 현재 AI는 아직 신흥 개발 단계에 있으며, 고강도 규제는 필연적으로 산업 발전과 혁신을 어느 정도 제한 할 것이므로 미국은 입법에 있어 상대적으로 겸손한 태도를 유지하고 있습니다." 펑샤오얀은 이렇게 말했습니다.

 

　　"법이 기관에 새로운 권한을 부여하지 않으면 기관은 이미 가지고 있는 권한에 따라 AI 사용을 규제해야 합니다. 반면에 AI와 관련된 윤리적 원칙을 덜 규범적으로 유지함으로써 기관은 규제 방법과 사용 권한을 스스로 결정할 수 있습니다." 카네기 애널리스트 하드리앙 푸제(Hadrien Pouget)에 따르면 백악관이 이끄는 연방 기관은 제약과 자유를 동시에 누릴 수 있게 됩니다.

 

AI 규제에 대한 EU와 미국의 다른 접근 방식

사진 출저 : https://www.digitaltoday.co.kr/news/articleView.html?idxno=254750

　　미국은 사용과 혁신이 주도하는 AI 거버넌스 개념으로 강력한 '주먹'을 쥐게 될 운명이 아닙니다. 미국의 대표적인 싱크탱크인 브루킹스 연구소의 알렉스 엥글러 연구원은 교육, 금융, 고용 등 사회적 영향을 미치는 AI 규제에 대해 EU와 미국이 서로 다른 접근 방식을 취하고 있다고 지적합니다.

 

　　특정 AI 애플리케이션의 경우, EU AI 법에는 챗봇에 대한 투명성 요건(16.670, 0.02, 0.12%)이 있는 반면, 미국에는 연방 차원의 규제가 존재하지 않습니다. EU에서는 얼굴 인식을 '허용할 수 없는 위험'으로 간주하고 있으며, 미국에서는 미국표준기술연구소(NIST)의 얼굴 인식 벤더 테스트 프로그램을 통해 공개 정보를 제공하고 있지만 규정이 의무화되어 있지 않습니다.

 

　　"EU의 규제 범위는 더 넓은 범위의 애플리케이션을 포괄할 뿐만 아니라 이러한 AI 애플리케이션에 대해 더 많은 규칙을 설정합니다. 반면 미국의 접근 방식은 기존 기관 규제 기관을 조정하여 AI를 규제하는 데 더 좁게 국한되어 있으며 AI의 범위가 훨씬 더 제한적입니다." 알렉스 엥글러는 대체로 동일한 원칙이 존재함에도 불구하고 AI 위험 관리에는 융합보다는 차이가 훨씬 더 크다고 말했습니다.

 

　　자오 징우는 중국, EU, 미국의 AI 규제 모델을 요약한 결과, 중국은 ‘얼굴 인식 기술’, ‘심층 합성’, ‘자동화된 추천 및 기타 응용 시나리오’에 대한 특정 규제 규칙으로 인해 AI 기술 적용 ‘시나리오에 제한이 있다는 것’을 발견했습니다. EU는 ‘AI 애플리케이션의 위험 수준이 허용 가능한 수준인지 여부’에 따라 위험 수준 중심입니다. 반면 미국은 ‘기존 법체계의 틀 안에서 AI 기술 적용의 적법성’을 판단하고 있습니다.

 

　　또한 미국은 AI 연구에 더 많은 관심과 자금을 집중하고 있습니다. 지난 5월 초, 백악관은 7개의 새로운 국립 AI 연구소를 설립하기 위해 약 1억 4천만 달러를 투자한다고 발표했습니다. 일부 연구자들은 미국의 이러한 움직임이 AI를 더 잘 이해하여, 규제 과정에서 발생하는 우려를 완화하기 위한 조치라고 생각합니다.

 

　　반면 펑샤오옌은 중국이 AI 기술 개발을 장려하는 동시에 관련 분야의 관리를 제한적으로 규제하는 조치를 취한 것은 정책과 관리 요건을 조화시켜 AI 기술 개발을 유도하기 위한 것이라고 말했습니다.

 

　중국의 법안은 많은 현실적인 어려움에 직면해 있습니다.

 

　EU는 세계 최초의 AI 규제 법안의 시행을 가속화하고 있다고, Zhao Jingwu는 China Newsweek에 말하면서 EU의 "위험 계층 구조" AI 규제 조치, AI 법안에서 제안한 "일반 모델"규제 개념 및 다음에 대한 구체적인 초점이라고 덧붙였습니다. EU의 '위험 기반' AI 규제 조치, AI 법안의 '일반 모델' 규제 개념, 특히 ChatGPT와 같은 생성형 AI 애플리케이션에 대한 공개 및 데이터 저작권 준수 의무는 모두 중국의 AI 법안에 중요한 의미를 갖습니다.

 

　　

실제로 중국의 AI 관련 법률은 오래 전부터 마련되어 왔으며, 2017년 발표된 국무원의 '차세대 인공지능 발전 계획'에서는 2025년까지 AI 법률, 규정, 윤리 및 정책의 초기 시스템을 구축하고, AI 안전 평가 및 제어 역량을 구축할 것을 제안했습니다.

 

　　중국에서는 2022년 선전에서 '선전 경제특구 인공지능 산업 진흥에 관한 규정'을 발표했는데, 이는 중국 최초의 인공지능 산업 특별법이라고 할 수 있습니다. 이 규정은 인공지능 분야의 규제 메커니즘을 개선하고 인공지능 제품 및 서비스의 윤리적 안전 위험과 규정 준수 위험을 방지하는 내용을 담고 있습니다.