최근 EU의 위험 기반 AI법이 승인된 후 영국은 미국과 협력하여 AI 안전에 대한 테스트 절차와 지침을 공동 수립했다.

대서양 횡단 계약의 일환으로 양국은 역량과 전문 지식을 결합하여 가장 진보된 인공지능 모델 및 시스템에 대한 테스트를 개발하고 위험 평가를 위한 도구를 만들 것이다.

계획은 공개적으로 접근 가능한 모델을 사용하여 적어도 하나의 공동 테스트를 수행하는 것이다. 또 다른 목표는 영국과 미국 AI 안전 연구소 간의 인적 교류를 모색하는 것이다.

미셸 도넬런(Michelle Donelan) 영국 과학·혁신·기술부 장관은 성명을 통해 “우리는 AI의 안전한 개발을 보장하는 것이 전 세계적으로 공유되는 문제라는 점을 항상 분명히 해왔다.”고 밝혔다.

"우리는 함께 협력함으로써만 기술의 위험을 정면으로 해결하고 우리 모두가 더 쉽고 건강한 삶을 살 수 있도록 돕는 엄청난 잠재력을 활용할 수 있다."

지나 라이몬도(Gina Raimondo) 미국 상무부 장관도 이러한 정서에 공감하며 이번 협력이 “국가 안보나 더 넓은 사회에 대한 모든 위험에 걸쳐” 양국의 작업을 가속화할 것이라고 언급했다.

이번 거래는 유럽 업계 전반에 걸쳐 긍정적인 반응을 불러일으켰다. VC 회사 OpenOcean의 총괄 파트너인 예카테리나 알마스크(Ekaterina Almasque)에 따르면, 이번 계약은 특히 AI 스타트업에 있어 중요한 진전을 의미한다.

알마스크는 "AI 스타트업은 합리적인 비용으로 윤리적 교육 데이터를 소싱하는 등 안전과 윤리의 복잡한 환경을 탐색하는 데 종종 어려움을 겪는다. 이로 인해 혁신을 주도하고 규모를 확장하며 경쟁력 있는 제품을 만드는 능력이 저해될 수 있다."고 말했다.

그녀는 영국-미국 협력이 이러한 과제를 해결하는 데 유용한 프레임워크를 제공한다고 믿는다.

Iris.ai의 CEO이자 공동 창립자인 아니타 쇼엘 아빌드가드(Anita Schjøll Abildgaard)에게 있어 이 파트너십은 AI 기능에 보조를 맞추는 거버넌스 프레임워크를 구축하는 데에도 중요하다. 그러나 그러한 노력이 효과적이려면 모든 이해관계자를 고려해야 한다고 그녀는 경고한다.

쇼엘 아빌드가드는 “이해관계자의 스펙트럼을 통합하지 못하면 주요 지역에 분산된 접근 방식이 자리잡을 위험이 높아진다.”고 말했다.

"선구적인 스타트업부터 거대 산업 기업에 이르기까지 유럽의 역동적인 생태계는 국제 AI 안전 표준 및 테스트 체제에 정보를 제공해야 하는 풍부한 경험적 학습 및 위험 평가를 제공한다."