광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[2024년 선거, 악당 AI가 활동한다.] 나쁜 행위자 AI 활동은 2024년 중반까지 확대되어 선거 시즌에 허위 정보를 증폭시키게 된다. 23개의 소셜 미디어 플랫폼을 통해 악당 커뮤니티가 자신도 모르게 전 세계 수십억 명의 사용자와 직접 연결된다.

https://magazine.mindplex.ai/mp_news/bad-actor-ai-activity-will-escalate-by-mid-2024-amplifying-disinformation-in-election-season-gwu-researchers/

운영자 | 기사입력 2024/01/25 [00:00]

[2024년 선거, 악당 AI가 활동한다.] 나쁜 행위자 AI 활동은 2024년 중반까지 확대되어 선거 시즌에 허위 정보를 증폭시키게 된다. 23개의 소셜 미디어 플랫폼을 통해 악당 커뮤니티가 자신도 모르게 전 세계 수십억 명의 사용자와 직접 연결된다.

https://magazine.mindplex.ai/mp_news/bad-actor-ai-activity-will-escalate-by-mid-2024-amplifying-disinformation-in-election-season-gwu-researchers/

운영자 | 입력 : 2024/01/25 [00:00]

조지워싱턴대학교(GWU) 연구진이 주도한 새로운 연구에서는 2024년 중반까지 일상적인 악당 AI 활동이 증가해 50개국의 선거 결과에 영향을 미칠 수 있는 위협이 커질 것으로 예측했다최근 PNAS Nexus 저널에 발표된 이 연구는 악의적인 행위자가 전 세계적으로 AI를 어떻게 오용할지 예측하는 최초의 정량적 과학적 분석이다.

 

그 결과는 다음과 같다.

악의적인 행위자는 악의적인 활동을 완화하기 위해 더 많은 가드레일이 있는 경향이 있는 GPT 3  4와 같은 고급 시스템보다는 플랫폼의 정보를 조작하고 편향하기 위해 기본 GPT(생성적 사전 훈련된 변환기 Generative Pre-trained Transformer) AI 시스템만 필요하다.

23개 소셜 미디어 플랫폼에 걸친 도로 네트워크를 통해 악의적인 행위자 커뮤니티가 사용자가 모르는 사이에 전 세계 수십억 명의 사용자와 직접 연결될 수 있다.

AI가 주도하는 악의적 행위자 활동은 2024*년 여름까지 일상적으로 발생하게 될 것이다.

소셜 미디어 회사는 모든 콘텐츠를 제거하는 것이 아니라 허위 정보를 억제하기 위한 전술을 배포해야 한다연구원에 따르면 이는 더 작고 고립된 행위자를 참으면서 조정된 활동의 더 큰 부분을 제거하는 것처럼 보인다.

 

이를 확인하기 위해 연구원들은 온라인 전자 정보 시스템 조작과 관련된 두 가지 역사적기술적으로 유사한 사건의 프록시 데이터를 사용했다첫 번째 데이터 세트는 2008년 미국 금융 시장에 대한 자동화된 알고리즘 공격에서 나온 것이고두 번째 데이터 세트는 2013년 미국 인프라에 대한 중국 사이버 공격에서 나온 것이다이러한 데이터 세트를 분석함으로써 연구원들은 이러한 체인의 공격 빈도를 추정할 수 있었다. AI의 현재 기술 발전 맥락에서 이 정보를 조사한다.

 

오픈 액세스 논문인 "온라인 전장에서 대규모로 악의적 행위자 AI 활동 제어" PNAS Nexus 저널에 게재되었다이 연구는 미 공군 과학연구국과 템플턴 재단의 자금 지원을 받았다.

인용온라인 전장을 횡단하라. PNAS 넥서스, 3(1).

https://doi.org/10.1093/pnasnexus/pgae004 (오픈 액세스)

 
2024 선거, 악당, AI, 악의적인 행위자, GPT 관련기사목록
PHOTO
1/6
광고
광고
광고
광고
광고
광고
광고
많이 본 기사
AI메타홈서비스 많이 본 기사