비즈니스 기회
Meta, EU선거를 앞두고 허위정보 퇴치노력 강화
유럽 의회 선거가 몇 달 남지 않은 가운데, 페이스북과 인스타그램의 모회사인 메타(Meta)는 자사 플랫폼에서 잘못된 정보와 조작의 확산을 막기 위한 새로운 이니셔티브를 출시하고 있습니다.
메타의 EU 업무 책임자인 마르코 판치니(Marco Pancini)는 지난 일요일 블로그 포스트를 통해 EU 전용 선거 운영 센터 설립, 팩트체크 파트너 네트워크 확대, AI 생성 콘텐츠를 탐지하고 라벨링하는 도구 개발 등을 포함한 세부 계획을 설명했습니다.
판치니는 "선거가 다가옴에 따라 EU 전용 선거 운영 센터를 활성화하여 인텔리전스, 데이터 사이언스, 엔지니어링, 리서치, 운영, 콘텐츠 정책 및 법무 팀의 전사적 전문가를 모아 잠재적인 위협을 식별하고 앱과 기술 전반에 걸쳐 실시간으로 특정 완화 조치를 취할 것"이라고 밝혔습니다.
6월 선거가 유럽연합의 미래를 결정짓는 중요한 순간에 결정될 것이기 때문에 매우 위험합니다. 유권자 조작 전술은 특히 허위 정보를 더 설득력 있게 만드는 딥페이크와 같은 새로운 기술로 인해 결과에 영향을 미칠 수 있습니다.
메타는 2016년 러시아 트롤들이 미국 대선 경선에서 불화를 일으키기 위해 플랫폼을 무기화한 이후 선거 개입에 대한 집중적인 조사에 직면해 왔습니다. 이후 이 회사는 안전과 보안에 수십억 달러를 투자하고 정치 광고에 대한 투명성 조치를 시행했습니다.
전문가들은 노력에 '심각한 한계'가 있다고 말합니다
그러나 전문가들은 허위 정보에 맞서 싸우기 위한 메타의 계획만으로는 충분하지 않을 수 있다고 경고합니다. 최근 보고서에 따르면 이 회사는 2022년 중간선거를 앞두고 미국인을 대상으로 한 중국에서 시작된 조직적인 영향력 캠페인을 포착하지 못했습니다.
메타는 현재 24개 EU 공식 언어를 모두 포괄하도록 팩트체크 네트워크를 확장하고 AI 생성 콘텐츠에 대한 공개를 요구하고 있지만, 비평가들은 이러한 노력이 부족하다고 주장합니다. 예를 들어, 집단 간의 폭력적인 대립을 보여주는 것으로 보이는 이미지와 비디오를 안정적으로 인증할 수 있는 명확한 시스템이 아직 마련되어 있지 않습니다. 고급 편집 소프트웨어를 사용하면 설득력 있는 가짜 영상을 폭로하기가 어려울 수 있습니다.
메타가 팩트체크 파트너를 3명만 더 추가한 것도 위협의 규모를 감안할 때 부적절해 보입니다. 유럽 전역의 29개 조직으로 구성된 전체 네트워크는 이러한 중요한 투표와 관련하여 예상되는 잘못된 정보의 홍수를 따라잡기 위해 고군분투할 수 있습니다.
메타가 AI 콘텐츠에 대해 계획한 투명성 라벨은 올바른 방향으로 나아가는 단계이지만, 전문가들은 시스템이 딥페이크와 같은 조작된 미디어를 어떻게 자신 있게 식별할 수 있을지 의문을 제기합니다. 현재 Meta 또는 다른 곳에는 AI 위조를 완벽하게 정확하게 감지할 수 있는 신뢰할 수 있는 기술이 없습니다.
인플루언서는 여전히 악용에 취약합니다
과거의 영향력 행사는 정치인, 언론인 및 많은 팔로워를 보유한 기타 사람들과 같은 진정성 있는 목소리를 악용하여 분열적인 내러티브를 증폭시켰습니다. 올해 80개국에서 중요한 선거가 임박한 가운데, 공인과 권력 있는 위치에 있는 사람들에 의해 증폭될 경우 소규모 허위 정보 시도가 더 큰 관심을 끌 수 있습니다.
Meta의 글로벌 위협 인텔리전스 책임자인 Ben Nimmo에 따르면 은밀한 영향력 캠페인이 주류 정치 담론에 침투하는 주요 방법은 평판이 좋은 인플루언서를 선택하는 것입니다. "은밀한 캠페인이 진정한 커뮤니티에 도달하는 주요 방법은 실제 사람들과 청중을 함께 선택할 수 있을 때입니다"라고 Nimmo는 회사의 최신 적대적 위협 보고서에서 말했습니다.
이는 여전히 큰 취약점으로 남아 있는데, 신뢰할 수 있는 사람이 몇 개의 공유만 해도 외국의 간섭과 관련된 거짓 내러티브에 정당성을 부여할 수 있기 때문입니다.
중요한 EU 선거가 빠르게 다가오면서 Meta는 높은 경계심을 유지하고 있습니다. 그러나 딥페이크 기술이 발전함에 따라 정보 전쟁의 최전선은 더욱 복잡해지고 있습니다.
메타의 계획은 중요한 발걸음을 내디뎠지만, 소셜미디어 시대에 민주주의를 지키는 것은 여전히 힘든 싸움입니다. 권력과 영향력을 가진 진정성 있는 목소리는 계속해서 조작의 주요 표적이 될 것입니다.
이상의 기사는 2024년 2월 26일 entureBeat에 게재된 “Meta ramps up efforts to combat disinformation ahead of crucial EU elections”제목의 기사 내용을 편집하여 작성하였습니다.
* 정보 출처 : https://venturebeat.com/ai/meta-ramps-up-efforts-to-combat-disinformation-ahead-of-crucial-eu-elections/