비즈니스 기회
AI 위험에 대한 더 강력한 조치를 촉구
선도적인 AI 과학자들은 6개월 전 블레츨리 파크에서 열린 첫 번째 AI 안전 정상회의 이후 진전이 충분하지 않다고 경고하면서 세계 지도자들에게 AI 위험에 대한 더 강력한 조치를 촉구하고 있습니다.
그런 다음 세계 지도자들은 AI를 책임감 있게 관리하겠다고 약속했습니다. 그러나 5월 21일부터 22일까지 서울에서 개최되는 제2회 AI 안전 정상회의가 다가옴에 따라, 세계 최고의 AI 과학자 25명은 기술의 위험으로부터 우리를 보호하기 위한 노력이 충분하지 않다고 말합니다. 사이언스(Science)에 발표된 전문가 합의 논문에서 이들은 AI 기술의 위협에 대응하기 위해 글로벌 리더들이 채택해야 할 긴급한 정책 우선순위를 제시했습니다.
논문의 공동 저자인 옥스퍼드대 공학과 필립 토르 교수는 "지난 AI 서밋에서 전 세계가 행동이 필요하다는 데 동의했지만, 이제는 모호한 제안에서 구체적인 약속으로 넘어가야 할 때입니다. 이 백서는 기업과 정부가 해야 할 일에 대한 많은 중요한 권고안을 제공합니다"라고 말했습니다.
잠재적으로 급속한 AI 발전에 직면한 세계의 대응이 궤도에 오르지 않았습니다
논문 저자들에 따르면, 세계 지도자들은 현재 10년 또는 향후 10년 이내에 많은 중요한 영역에서 인간의 능력을 능가하는 매우 강력한 제너럴리스트 AI 시스템이 개발될 가능성을 진지하게 받아들여야 합니다.
전 세계 각국 정부가 프론티어 AI에 대해 논의하고 초기 가이드라인을 도입하려는 시도를 해왔지만, 이는 많은 전문가들이 기대하는 빠르고 혁신적인 발전의 가능성과는 거리가 멀다고 말합니다.
현재 AI 안전에 대한 연구는 심각하게 부족하며, 안전에 관한 AI 출판물은 약 1-3%에 불과합니다. 또한, 우리는 독립적으로 행동을 취하고 목표를 추구할 수 있는 자율 시스템의 사용을 포함하여 오용과 무모함을 방지하기 위한 메커니즘이나 제도를 갖추고 있지 않습니다.
세계 최고의 AI 전문가들이 행동 촉구를 요구하다
이에 비추어 AI 선구자들의 국제 커뮤니티는 긴급 행동을 촉구했습니다. 공동 저자로는 AI 및 거버넌스 분야의 세계 최고의 학술 전문가 총 25명. 저자는 미국, 중국, EU, 영국 및 기타 AI 강국 출신이며 튜링상 수상자, 노벨상 수상자 및 표준 AI 교과서 저자를 포함합니다.
이 기사는 이렇게 대규모의 국제적인 전문가 그룹이 첨단 AI 시스템의 위험과 관련하여 글로벌 정책 입안자들의 우선 순위에 동의한 첫 번째 사례입니다.
AI 거버넌스의 시급한 우선순위
저자들은 정부에 다음과 같이 권고한다.
- AI 감독을 위한 신속한 전문 기관을 설립하고, 현재 거의 모든 정책 계획에 따라 받을 수 있는 것보다 훨씬 더 많은 자금을 지원해야 합니다. 이에 비해 미국 AI 안전 연구소는 현재 연간 예산이 1,000만 달러인 반면 미국 식품의약국(FDA)은 67억 달러의 예산을 가지고 있습니다.
- 자발적이거나 불특정 모델 평가에 의존하는 대신 집행 가능한 결과를 수반하는 훨씬 더 엄격한 위험 평가를 의무화합니다.
- AI 기업이 안전을 우선시하고 시스템이 해를 끼칠 수 없음을 입증하도록 요구합니다. 여기에는 "안전 사례"(항공과 같은 다른 안전에 중요한 기술에 사용됨)를 사용하는 것이 포함되며, 이는 안전성을 입증하는 부담을 AI 개발자에게 전가합니다.
- AI 시스템이 제기하는 위험 수준에 상응하는 완화 표준을 구현합니다. 시급한 우선 순위는 AI가 특정 기능 마일스톤에 도달할 때 자동으로 트리거되는 정책을 마련하는 것입니다. AI가 빠르게 발전하면 엄격한 요구 사항이 자동으로 적용되지만 진행 속도가 느려지면 그에 따라 요구 사항이 완화됩니다.
저자들은 뛰어난 능력을 갖춘 미래의 AI 시스템을 위해 정부는 규제를 주도할 준비가 되어 있어야 한다고 제안합니다. 여기에는 이러한 시스템의 개발 허가, 주요 사회적 역할에서의 자율성 제한, 우려되는 기능에 대응하여 개발 및 배포 중단, 액세스 제어 의무화, 적절한 보호가 준비될 때까지 국가 수준의 해커에 대한 강력한 정보 보안 조치 요구 등이 포함됩니다.
AI의 영향은 치명적일 수 있습니다
AI는 이미 해킹, 소셜 조작, 전략 계획과 같은 중요한 영역에서 빠르게 발전하고 있으며 곧 전례 없는 제어 문제를 제기할 수 있습니다. 바람직하지 않은 목표를 달성하기 위해 AI 시스템은 인간의 신뢰를 얻고, 자원을 확보하고, 주요 의사 결정권자에게 영향을 미칠 수 있습니다.
사람의 개입을 피하기 위해 글로벌 서버 네트워크를 통해 알고리즘을 복사할 수 있습니다. 대규모 사이버 범죄, 사회적 조작 및 기타 피해가 빠르게 증가할 수 있습니다.
공개 분쟁에서 AI 시스템은 생물학적 무기를 포함한 다양한 무기를 자율적으로 배치할 수 있습니다. 결과적으로, 무분별한 인공지능의 발전은 대규모 인명 손실과 생물권, 인류의 소외 또는 멸종으로 이어질 가능성이 매우 높습니다.
캘리포니아 대학교 버클리 캠퍼스의 컴퓨터 과학 교수이자 AI에 관한 세계 표준 교과서의 저자인 스튜어트 러셀 OBE는 아래와 같이 촉구합니다.
"이 논문은 주요 전문가들의 합의된 논문이며, 업계에서 자발적으로 작성한 행동 강령이 아니라 정부의 엄격한 규제를 요구한다.“
"이제 고급 AI 시스템에 대해 진지하게 고민해야 할 때입니다. 이것은 장난감이 아닙니다. 우리가 그들을 안전하게 만드는 방법을 이해하기도 전에 그들의 능력을 높이는 것은 완전히 무모한 일입니다. 기업들은 규제를 충족시키는 것이 너무 어렵다고, 즉 '규제가 혁신을 억누른다'고 불평할 것입니다. 그건 터무니없어요. AI 기업보다 샌드위치 가게에 대한 규제가 더 많습니다."
이상의 기사는 2024년 5월 20일 TechXplore에 게재된 “World leaders still need to wake up to AI risks, say leading experts ahead of AI Safety Summit”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : https://techxplore.com/news/2024-05-world-leaders-ai-experts-safety.html
* 추가정보 출처 : https://www.science.org/doi/10.1126/science.adn0117