비즈니스 기회
AI가 미국선거에서 투표에 영향을 미칠 수 있습니다
지난달, 뉴햄프셔 유권자들이 뉴햄프셔 주 예비선거에서 투표를 준비할 때, 일부 유권자들은 뉴햄프셔 주 지도자의 이례적인 행동 촉구에 눈을 떴습니다. 유권자들은 조 바이든 대통령 자신처럼 들리도록 설계된 AI 생성 로보콜의 잠재적 피해자였으며, 예비선거에서 투표하지 말고 집에 머물라고 요청했습니다.
투표를 중단하라는 긴급한 요청전화는 텍사스에 본사를 둔 라이프 코퍼레이션(Life Corporation)이 AI 스타트업 일레븐랩스(ElevenLabs)가 편집한 딥페이크 라이브러리를 사용하여 만들었습니다. 이후 라이프코퍼레이션은 유권자 탄압에 가담한 혐의로 기소됐습니다.
AI로 무장한 행위자들이 다가오는 대통령 선거의 구성 요소에 영향을 미칠 수 있다는 최신 경고 신호였습니다.
AI에 대한 우려는 사회적, 정치적 가능성의 범위를 넓혀왔지만, 거의 모든 사람들은 AI가 허위 정보의 범위를 확대할 수 있는 엄청난 잠재력을 가지고 있다고 주장합니다. 예를 들어, 비영리 공공 정책 센터인 브루킹스 연구소(Brookings Institute)는 AI의 잠재력을 둘러싼 많은 두려움이 과장된 것일 수 있지만, 생성형 AI가 잘못된 정보의 생산과 확산을 어떻게 근본적으로 변화시킬지에 대해서는 주의를 기울일 필요가 있다고 주장합니다.
"AI는 잘못된 정보를 더 널리 퍼뜨리고 설득력 있게 만들 수 있습니다. 우리는 잘못된 정보의 대다수가 '복권에 당첨되어' 미디어 환경 전반에 걸쳐 반향을 일으키지 않는 한 소수의 사람들이 못한다는 것을 알고 있습니다. 그러나 거짓 이야기, 이미지, 영상이 추가될 때마다 그 시나리오는 더 가능성이 높아진다"고 연구소는 썼습니다.
비영리단체 브레넌 정의센터(Brennan Center for Justice)는 이미 2020년대를 미국뿐만 아니라 전 세계에서 "선거에서 딥페이크 시대의 시작"이라고 불렀습니다. 센터는 "공화당 예비후보들은 이미 선거 광고에 AI를 사용하고 있다"고 밝혔습니다. "가장 유명한 것은 론 드산티스 플로리다 주지사의 캠페인이 도널드 트럼프 전 대통령이 자신이 옹호한 코로나19 완화 정책으로 인해 공화당 경선 유권자들 사이에서 피뢰침이 된 앤서니 파우치를 포옹하는 AI 생성 이미지를 공개한 것입니다."
소셜 미디어의 반응은 민주주의와 진실에 대한 AI의 위협에 중요한 역할을 할 수 있으며, 개발 배후에 있는 회사의 말에 따르면 AI는 더 보편적인 것은 말할 것도 없고 점점 더 똑똑해지고 있다는 것을 알 수 있습니다. 미디어 리터러시를 강화하는 것이 그 어느 때보다 중요해졌으며, 잘못된 선거 정보를 찾아내는 것은 점점 더 복잡해지고 있습니다.
허위 정보 감시 단체인 뉴스가드(NewsGuard)의 AI 및 외국 영향력 편집자인 맥켄지 사데기(McKenzie Sadeghi)는 Mashable과의 인터뷰에서 이 단체가 처음부터 저품질 뉴스 웹사이트를 생성하는 것부터 딥페이크 동영상, 오디오, 이미지에 이르기까지 다양한 형태의 AI의 무기화를 추적해 왔다고 설명했습니다.
"현재까지 우리는 AI에 의해 생성되고 인간의 감독이 거의 또는 전혀 없이 운영되는 676개의 웹사이트를 확인했습니다. 우리가 면밀히 주시해야 할 것 중 하나는 AI와 '핑크 슬라임' 네트워크의 교차점인데, 이들은 스스로를 신뢰할 수 있는 지역 뉴스 매체로 묘사하고 유권자에게 다가가 Facebook 광고로 그들을 타겟팅하려고 시도하는 당파적 뉴스 매체입니다."
Sadeghi와 NewsGuard의 연구에 따르면 이러한 통계는 증가할 것으로 예상됩니다. "2023년에 이러한 웹사이트를 처음 식별하기 시작했을 때 처음에는 49개의 웹사이트를 찾았습니다. 우리는 매주 이를 계속 추적해 왔으며 속도가 느려질 기미가 보이지 않는다는 것을 발견했습니다. 그리고 이 추세가 계속된다면 선거가 다가올 때쯤에는 1000개에 가까워질 수 있다"고 설명했습니다
AI 법률 및 규정에 대해 알아야 할 사항
AI는 의회 지도자들이 위험 회피 방안에 합의하지 못했고 AI의 부상을 완화하는 법안을 통과시키지 못했기 때문에 규제의 회색 영역으로 남아 있습니다.
2023년 10월, 바이든 행정부는 상무부에 AI 콘텐츠 및 사기를 탐지하는 방법을 수립하라는 지침을 포함하여 AI 안전 및 보안에 대한 새로운 표준을 설명하는 행정 명령을 발표했습니다.
AI 로보콜 사기 및 딥페이크의 증가에 대응하여 FCC는 전화 소비자 보호법(TCPA)에 따라 AI 로보콜을 완전히 불법화하는 제안을 발표했습니다.
연방선거관리위원회(FEC)는 아직 AI 규제를 발표하지 않았지만, 숀 쿡시(Sean Cooksey) 위원장은 올 여름에 가이드라인이 개발될 것이라고 밝혔습니다.
일부 주 의회 의원들도 이 책에 자신들의 의견을 적어 놓았습니다. 전국 주 의회 회의(National Conference of State Legislatures)는 선거에서 AI의 위협에 대처하는 주 목록을 작성했습니다. "후보자에게 해를 끼치거나 유권자를 속일 의도로 현저하게 기만적인 미디어의 게시를 금지"하거나 딥페이크를 구체적으로 금지하는 명시적인 법령이 있는 주는 캘리포니아, 미시간, 미네소타, 텍사스, 워싱턴 등 주입니다.
다른 주에서는 선거 기간 동안 AI 사용을 제한하는 법안을 도입했지만 통과된 주는 거의 없습니다.
AI 워터마크
많은 사람들이 홍보하는 AI 콘텐츠의 또 다른 임시방편은 이미지 및 비디오 워터마킹 기술입니다. AI의 경우 여기에는 모델이 생성하는 모든 콘텐츠에 텍스트 또는 이미지 기반 서명을 포함하도록 모델을 학습시켜 향후 알고리즘이 콘텐츠의 출처를 추적할 수 있도록 하는 것이 포함됩니다.
2023년에 OpenAI, Alphabet, Meta 및 기타 AI 개발 분야의 주요 이름은 조작된 콘텐츠를 식별하는 데 도움이 되는 자체 워터마킹 기술을 개발하겠다고 약속했습니다.
2023년 10월, Meta는 오픈 소스 생성형 AI 도구를 사용하여 만든 이미지에 워터마크를 추가하는 방법인 Stable Signature로 알려진 제안된 솔루션을 출시했습니다. 메타에 따르면 스테이블 시그니처는 후반 작업 이미지에 워터마크를 적용하는 대신 생성형 AI 모델 자체에서 특정 사용자에게 직접 귀속되는 보이지 않는 워터마크를 추가합니다.
2월 7일, OpenAI는 C2PA(Coalition for Content Provenance and Authenticity)에서 만든 지침에 따라 DALL-E 3에서 생성된 모든 이미지에 유사하게 감지 가능한 워터마크를 추가할 것이라고 발표했습니다. 매셔블(Mashable)의 세실리 마우란(Cecily Mauran)이 보도한 바와 같이, C2PA는 어도비(Adobe), 마이크로소프트(Microsoft), BBC 및 기타 기업과 퍼블리셔가 "미디어 콘텐츠의 출처와 역사(또는 출처)를 인증함으로써" 딥페이크와 잘못된 정보의 만연을 해결하기 위해 사용하는 기술 표준입니다.
그러나 워터마크는 완전한 해결책이 아닙니다. 아직 초기 단계에 있지만 연구에 따르면 AI 워터마크는 조작, 제거, 심지어 타사 행위자의 공격에 취약합니다.
AI 회사 정책
어도비는 지난 9월 백악관이 발표한 AI 안전 및 보안 조치와 C2PA가 지원하는 콘텐츠 진정성 이니셔티브(Content Authenticity Initiative)에 참여한 바 있습니다.
지난 11월, 마이크로소프트(빙 AI 챗봇 코파일럿 개발사)는 사용자가 C2PA의 워터마킹 가이드라인을 사용해 미디어(선거 자료 포함)에 디지털 서명하고 인증할 수 있는 새로운 도구가 포함된 자체 선거 가이드라인을 발표했습니다. "이러한 워터마킹 자격 증명은 개인이나 조직이 이미지나 비디오가 자신으로부터 왔다고 주장할 수 있는 권한을 부여하는 동시에 자격 증명이 생성된 후 콘텐츠가 변경되었는지 여부를 표시하여 변조로부터 보호할 수 있습니다."
Microsoft는 또한 후보자와 선거 당국을 지원하기 위해 선거 커뮤니케이션 허브와 특정 "캠페인 성공 팀"을 만들겠다고 약속했습니다.
지난해 12월 알파벳은 챗봇이 자주 퍼뜨리는 잘못된 정보를 막기 위해 구글의 AI 모델인 제미니(구 바드)가 답변할 수 있는 선거 관련 질문의 유형을 제한하겠다고 발표했습니다.
지난 1월, 오픈AI는 이미지의 출처와 이를 만드는 데 사용된 도구에 대한 투명성 제고, 미래의 AI 이미지 감지 도구 등 잘못된 정보를 퇴치하기 위한 새로운 선거 정책을 발표했다. OpenAI는 이미 개발자가 OpenAI 기술을 정치 캠페인에 사용하는 것을 금지했습니다.
이러한 보안 시도에도 불구하고, 많은 전문가들은 가장 위험한 형태의 AI 변조가 업계의 유명 인사가 아니라 AI 기술의 규제되지 않은 오픈 소스 사용에서 비롯될 것이라고 우려하고 있습니다.
소셜 미디어 정책
AI가 조작한 콘텐츠 유포의 주요 허브라고 할 수 있는 소셜 미디어 플랫폼은 플랫폼에서 AI를 사용하는 모든 문제를 해결하기 위해 다양한 수준의 정책을 발표했는데, Sadeghi는 이러한 정책이 항상 시행되는 것은 아니라고 지적합니다.
유튜브(및 모회사인 구글)는 지난 9월 정치 광고에 대한 모든 AI 변경 사항을 사용자에게 공개해야 한다고 발표했습니다.
가장 최근에 Meta는 Facebook, Instagram 및 Threads 플랫폼에서 AI가 변경한 이미지를 식별하는 작업을 두 배로 늘릴 것이라고 발표했습니다. 메타는 구글, 오픈AI, 마이크로소프트, 어도비, 미드저니, 셔터스톡의 모든 AI 콘텐츠에 사내 AI 라벨을 추가할 것이라고 밝혔습니다. 메타는 앞서 광고주들이 자사 플랫폼에서 AI로 조작된 광고를 공개하도록 요구할 것이라고 발표했지만, 가장 최근에는 '조작된 미디어'에 대한 정책을 시행하지 않아 비난을 받고 있습니다.
스냅챗은 모든 정치 광고에 대한 인적 검토를 계속하겠다고 약속했으며, 사용자를 속이기 위해 AI를 "오해의 소지가 있는 사용"에 세심한 주의를 기울였습니다.
틱톡은 또한 2024년 선거 주기에 대한 계획을 발표했는데, 이는 팩트체크 기관들과의 이전 협력에 의존하고 자체 블루 체크 검증 시스템을 반복하는 것입니다. 이 플랫폼은 또한 AI 조작에 대해 경계할 것이라고 언급했습니다. "AI 생성 콘텐츠(AIGC)는 우리 업계의 잘못된 정보에 대한 새로운 도전을 불러일으키며, 우리는 확고한 규칙과 새로운 기술로 선제적으로 대처해 왔습니다. 오해의 소지가 있는 조작된 콘텐츠(공인의 AIGC가 정치적 견해를 지지하는 것으로 묘사되는 경우)는 허용되지 않습니다. 또한 크리에이터에게 현실적인 AIGC에 라벨을 부착하도록 요구하고 있으며, 이를 위해 최초의 도구를 출시했습니다."
X/Twitter는 이제 사이트에서 정치 캠페인 광고를 허용하는 정책 전환에 따라 2024년 선거에 대한 새로운 정책을 아직 발표하지 않았습니다. 현재 가이드라인은 "합성, 조작 또는 맥락을 벗어난" 콘텐츠의 공유를 금지하고 잘못된 정보의 확산을 막기 위해 라벨링 및 커뮤니티 메모를 강조합니다.
"일반적으로 말하자면, 일부는 정책을 시행하고 있지만, 악의적인 행위자들은 이를 쉽게 우회할 수 있는 방법을 찾았습니다"라고 Sadeghi는 AI 잘못된 정보에 맞서기 위한 소셜 미디어 회사의 조치에 대해 말했습니다. "우리는 잘못된 정보에 항상 라벨이 붙는 것은 아니며, 라벨이 추가될 때쯤에는 이미 수천 명의 사람들이 보고 있다는 것을 발견했습니다."
텍스트에서 AI를 읽는 방법
규제와 일관된 정책 집행의 부재는 온라인에 퍼진 콘텐츠의 진실을 평가할 준비가 되어 있지 않은 잠재적 유권자들에게 걱정스러운 일입니다.
사기성 뉴스 사이트
온라인 뉴스 페이지가 전적으로 AI에 의해 생성되었는지 또는 일부 콘텐츠만 AI 기반인지 평가할 때 Sadeghi는 NewsGuard의 방법에는 AI 표절 및 환각의 지표를 스캔하고 사이트 정책 자체를 분석하는 것이 포함된다고 설명했습니다.
"주로 콘텐츠의 품질과 특성, 사이트의 투명성에 달려 있습니다"라고 Sadeghi는 설명합니다. "우리가 본 대부분의 AI 생성 사이트에는 상충되는 정보가 포함된 이러한 이야기 징후가 있습니다. 이러한 AI 모델 중 상당수는 환각을 일으키고 꾸며낸 사실을 생산합니다. 그래서 우리는 그것을 많이 보게 될 것입니다. 또 다른 것은 표절과 반복의 사용입니다. 이러한 웹사이트 중 상당수는 주류 출처의 뉴스 콘텐츠를 재활용하고 저작자 표시 없이 자신의 것으로 다시 작성하고 있습니다."
Sadeghi는 이러한 기사의 맨 위에 있는 저자 이름(또는 바이라인)과 작가, 편집자 또는 출판물 자체의 연락처 정보를 찾아 사실 확인을 할 것을 제안합니다. 독자들은 또한 "결론적으로"와 같이 반복되는 건설적인 문구를 많이 찾을 수 있는데, 여기에는 Sadeghi가 인간적인 손길이라고 부르는 것이 부족합니다.
AI가 텍스트로 쓰는 것을 발견
일반적으로 텍스트 본문이 AI에서 생성되었는지 빠르게 해독하기 위해 유사하게 간단한 전략을 사용할 수 있습니다.
예를 들어, Better Business Bureau는 AI 챗봇을 사용하여 피싱 및 기타 텍스트 기반 사기를 위한 텍스트를 생성하는 것에 대해 경고합니다. 조직은 다음 사항에 주의할 것을 제안합니다. 상상력이 없는 언어, 관용구 또는 축약이 없는 짧은 문장, 믿기지 않는 진술 등등.
MIT의 Technology Review and Emeritus의 가이드에 따르면 다음을 찾으십시오.
- "the", "it" 또는 "is"와 같은 일반적인 단어의 남용
- 오타나 다양한 텍스트가 없어 챗봇이 텍스트를 "정리"했음을 나타낼 수 있습니다.
- 인용이 없는 문맥, 구체적인 사실 또는 통계의 부족
- 지나치게 "화려한" 언어와 전문 용어, 속어나 다른 어조가 거의 또는 전혀 없습니다.
AI 생성 이미지를 찾는 방법
대부분의 온라인 사용자는 사람의 얼굴에서 약간 벗어난 얼굴, 제대로 렌더링되지 않은 손, 섬뜩한 이빨 미소를 포함하여 AI가 생성하는 일종의 "불쾌한 골짜기" 이미지를 발견하는 데 더 익숙합니다.
그러나 딥페이크 기술은 현실이 끝나고 AI가 시작되는 지점을 완전히 정확히 찾아내는 것을 더욱 어렵게 만들고 있습니다.
생성형 AI의 지문 감시
Better Business Bureau에 따르면 첫 번째 단계는 이미지의 맥락과 이미지가 어떻게 표현되는지를 이해하는 것입니다. "스스로에게 다음과 같은 질문을 던져보세요-이미지나 음성이 낯선 사람에게 돈을 보내는 것과 같이 의심스러워 보이는 긴급한 조치를 취하도록 압력을 가하는 데 사용되거나 예상치 못하거나 이상한 지불 메커니즘을 통해 사용되고 있습니까? 맥락이 정치적이며, 누군가가 당신을 화나게 하거나 감정적으로 만들려고 하는 것처럼 보이는가?"
인기 연예인이나 유명 인사의 이미지인 경우 가능한 가장 높은 해상도의 이미지를 검색하고 확대합니다. 다음과 같이 AI에 의해 생성된 일반적인 시각적 실수를 찾습니다.
- 논리적 불일치(예: 떠다니는 물체, 이상한 대칭 또는 다른 물체나 배경으로 사라지는 것처럼 보이는 물체와 옷)
- 전경과 배경을 구분하지 못하고 이상한 그림자가 있습니다.
- 이상한 질감 또는 피부에 매우 "광택" 또는 "에어브러시" 모양
동영상에도 동일한 종류의 조사를 적용하되 다음 사항에 유의하세요.
- 부자연스러운 조명 또는 그림자 움직임
- 눈 깜빡임(또는 눈 깜빡임의 부족)과 같은 부자연스러운 신체 움직임
AI가 생성한 오디오에도 귀를 기울이고, 의심스러울 때는 주변 사람들이나 평판이 좋은 뉴스 출처와 함께 사진이나 비디오를 다시 확인하십시오.
Google을 사용한 사진 사실 확인
또한 개인은 매일 상호 작용하는 도구를 사용하여 AI 생성 이미지를 감지할 수 있습니다. Google은 최근 About This Image 도구를 확장하여 모든 사용자가 AI 레이블 및 워터마크 찾기를 포함하여 이미지의 합법성을 확인할 수 있도록 했습니다.
이러한 기능을 사용하는 방법을 알아보세요
생성형 AI가 시장 전반에 걸쳐 대중화됨에 따라 자동 AI 감지 서비스도 대중화되었습니다. 이러한 도구 중 상당수는 AI 개발자가 직접 설계한 것이지만, 잘못된 정보 감시단은 자체 AI 탐지 리소스를 공개했습니다.
그러나 그들이 발견하도록 설계된 콘텐츠와 마찬가지로 이러한 도구에는 한계가 있다고 Sadeghi는 말했습니다. 그리고 심지어 그것들을 만든 사람들도 잘못을 인정하였습니다. 2023년 초에 자체 AI 텍스트 분류기를 출시한 후 OpenAI는 보고된 낮은 정확도로 인해 도구를 사용했습니다.
예를 들어, 교육 분야에서 AI 및 표절 봇은 특정 비영어권 사용자에 대한 모델 편향을 악화시키고 학생들에게 해를 끼치는 오탐을 생성한다는 비판을 받았습니다. 그러나 그들은 비판적인 눈을 위한 출발점을 제공합니다.
"GPTZero 등과 같은 AI 탐지 도구의 양이 증가하고 있습니다"라고 Sadeghi는 설명했습니다. "단독으로 사용하는 것은 좋지 않다고 생각하며, 때로는 오탐이 발생할 수 있습니다. 그러나 어떤 경우에는 추가적인 맥락을 제공할 수 있다고 생각합니다."
무료 AI 감지 도구
- Origin 브라우저 확장 프로그램: AI 탐지기 GPTZero에서 무료 브라우저 기반 도구로 만든 Origin은 사용자가 텍스트가 사람인지 컴퓨터인지 구별할 수 있도록 도와줍니다.
- Copyleaks: AI가 생성한 텍스트와 표절을 스캔하는 무료 웹 도구 및 Chrome 브라우저 확장 프로그램입니다.
- 딥웨어: 사용자가 의심되는 딥페이크 콘텐츠에 대한 링크를 복사하여 붙여넣을 수 있는 딥페이크 비디오 및 이미지 스캐너입니다.
유료 구독 도구
- GPTZero: 가장 인기 있는 AI 콘텐츠 감지기 중 하나인 GPTZero의 유료 구독은 교사, 조직 및 개인을 대상으로 판매됩니다.
- SynthID: 회사의 Vertex AI 플랫폼과 Imagen 이미지 생성기를 사용하는 Google Cloud 구독자를 위한 유료 도구인 SynthID는 사용자가 AI 생성 이미지를 감지하는 데 도움이 되며 AI 이미지 제작자를 위한 워터마킹 도구를 제공합니다.
- NewsGuard 브라우저 확장 프로그램: NewsGuard는 AI가 변경한 콘텐츠를 포함하여 뉴스 웹사이트의 신뢰성을 자동으로 분석하는 브라우저 확장 프로그램을 포함하여 잘못된 정보를 광범위하게 감지하기 위한 자체 유료 서비스를 제공합니다.
이상의 기사는 2024년 3월 15일 Mashable에 게재된 “AI might be influencing your vote this election. How to spot and respond to it.”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문 출처 : https://mashable.com/article/how-to-spot-ai-generated-election-misinformation