지난주 마라톤 토론에 이어 유럽연합은 AI법의 조건에 대한 잠정 합의를 확보하여 획기적인 규정의 제정이 가까워졌다.

국회의원들은 수요일의 원래 마감일을 놓쳤지만 주말에 딱 맞춰 금요일 늦게 거래를 성사시켰다. 그렇지 않았다면 법은 내년까지, 잠재적으로 6월 EU 전체 선거 이후까지 연기되었을 것이다. 움직이는 표적을 맞추는 것은 쉽지 않았다.

인공지능에 관한 세계 최초의 종합 법안으로 평가되는 이 법은 2021년에 처음 제안되었다. 이후 수년 동안 AI의 급속한 발전으로 인해 블록의 규제 계획은 다양한 분열을 불러일으켰다.

가장 최근의 균열은 작년에 ChatGPT가 폭발적으로 출시된 이후에 나타났다. OpenAI 챗봇은 때때로 "범용" AI 시스템이라고도 불리는 기초 모델의 힘에 대한 공포와 흥분을 불러일으켰다. EU 국가들은 그들을 감독하는 최선의 방법을 두고 분열되었다.

프랑스, 독일, 이탈리아는 혁신과 국내 사업을 저해할 것을 우려하여 구속력 있는 규칙에 대한 계획에 반대했다. 세 사람은 대신 행동 강령을 따르겠다고 제안했다.

또 다른 걸림돌은 생체 감시에 대한 제한이었다. EU 의원들은 전면적인 금지를 원했고, 정부는 국가 안보 면제를 요구했다.

AI 시스템에 대한 위험 기반 접근 방식

11시간째, 국회의원들은 이른바 위험 기반 접근 방식을 중심으로 법의 원칙에 대한 잠정 합의를 성사시켰다. 이는 계층화된 카테고리 구조를 따른다:

●AI 지원 추천 시스템 또는 스팸 필터와 같은 위험 최소화 프리패스 및 의무사항 없음.

●고위험 - 중요 인프라, 의료 기기, 교육 기관에 대한 접근 또는 인력 모집, 법 집행 등과 같은 시스템. 위험 완화 시스템, 고품질 데이터 세트, 활동 기록, 세부 사항 등을 포함한 요구 사항을 준수해야 한다. 문서화, 사람의 감독, 높은 수준의 견고성과 사이버 보안을 갖추고 있다.

●용납할 수 없는 위험 - 이 법은 사람들의 기본권에 대한 명백한 위협으로 간주되는 시스템을 금지할 것이다. 여기에는 "사용자의 자유 의지를 우회하기 위해 인간 행동을 조작하는 AI 시스템 또는 애플리케이션"이 포함된다. 예를 들어, 정부나 기업의 소셜 점수 또는 "실시간으로 사람을 분류"하는 시스템 등이 있다. 그러나 법 집행 목적을 위한 원격 생체 인식에는 "좁은 예외"가 있다.

●특정 투명성 위험 - 사용자는 자신이 AI와 상호 작용하고 있다는 사실을 인식해야 하며 딥 페이크 또는 AI 생성 콘텐츠에는 그러한 라벨이 지정되어야 한다.

EU 기술 규정의 평소와 마찬가지로 준수하지 않는 사람들에게는 막대한 벌금이 부과된다. 금지된 애플리케이션 위반에 대한 벌금은 3,500만 유로(또는 글로벌 연간 매출액의 7% 중 더 높은 금액)부터 잘못된 정보 제공에 대한 750만 유로(또는 1.5%)까지이다.

또한 이 법은 범용 AI 모델에 대한 특정 규칙을 도입한다. 시스템적 위험을 초래할 수 있는 매우 강력한 모델의 경우 "업계, 과학계, 시민 사회 및 기타 이해관계자가 위원회와 함께 개발한 관행 코드를 통해 운영될" "추가적인 구속력 있는 의무"가 있을 것이다.

새로운 유럽 AI 사무국

집행은 개별 회원국에 달려 있지만, 이 법은 또한 유럽 위원회 내에 새로운 유럽 AI 사무국의 설립을 결정한다. 한편, 이 블록의 업계 대표인 티에리 브르통(Thierry Breton)은 이 법안이 단순한 규칙서가 아니라 "글로벌 AI 경쟁을 이끌기 위한 EU 스타트업과 연구자들을 위한 발판"이라고 말했다.

이제 이 조항에는 추가 협상이 필요하며 아직 더 많은 로비를 할 시간이 있다. 그러나 이제 내년 유럽 의회 선거 이전에 완전한 합의가 이뤄질 가능성도 높다.

하지만 이 법은 최소 18개월 동안 발효될 가능성은 거의 없다. 그 시점에서 AI의 세계는 매우 다른 곳이 될 수 있다.

금지된 애플리케이션

공동의회 의원들은 AI의 특정 응용으로 인해 시민의 권리와 민주주의에 대한 잠재적 위협을 인식하고 다음을 금지하기로 합의했다.

▷민감한 특성(예: 정치적, 종교적, 철학적 신념, 성적 취향, 인종)을 사용하는 생체 인식 분류 시스템

▷얼굴 인식 데이터베이스를 생성하기 위해 인터넷이나 CCTV 영상에서 얼굴 이미지를 의도하지 않게 스크랩하는 것

▷직장 및 교육 기관에서의 감정 인식;

▷사회적 행동이나 개인적 특성을 기반으로 한 사회적 점수;

▷인간의 자유 의지를 우회하기 위해 인간의 행동을 조작하는 AI 시스템

▷AI는 사람들의 취약성(연령, 장애, 사회적 또는 경제적 상황으로 인해)을 악용하는 데 사용되는 것