비즈니스 기회
종말시계의 현재 시각은?
아래의 기사는 2024년 1월 24일 Tech.co에 게재된 “What is the Doomsday Clock and How is AI Impacting It?”제목의 기사 내용을 편집하여 작성하였습니다.
과학자들은 이번 주에 운명의 날 시계가 2년 연속으로 자정까지 90초에 머물러 있을 것이라고 확인했습니다.
종말시계는 인간이 세상을 파괴하는 데 얼마나 가까운지에 대한 은유이며 기후 문제와 우크라이나 전쟁으로 인해 2023년에 상징적인 종착점인 자정에 마지막으로 더 가깝게 이동되었습니다.
매년 이 시간을 정하는 원자 과학자 회보(Bulletin of Atomic Scientists)는 기록상 가장 더운 해인 가자 지구에서의 전쟁에도 불구하고 90초를 유지해야 한다고 밝혔습니다.
종말시계가 정확히 무엇인지, 그리고 AI가 어떻게 종말에 가까워지게 하는지 살펴보겠습니다.
종말시계는 무엇입니까?
1947년 J. 로버트 오펜하이머(J. Robert Oppenheimer)와 원자 폭탄을 개발한 그의 동료 과학자들이 처음 개발한 종말시계(Doomsday Clock)는 인류가 얼마나 완전한 멸망에 가까워졌는지를 묘사합니다. 제2차 세계대전의 파괴적인 영향 이후 핵무기가 다시는 사용되지 않도록 세계 지도자들에게 압력을 가하기 위해 만들어졌습니다.
자정 7분부터 시작해 시계 바늘은 총 25번 움직였고, 1991년 냉전이 끝난 후 자정까지 17분으로 되돌아갔습니다.
전쟁은 시계 계산의 많은 부분을 뒷받침하는 핵심 동인입니다. 화요일 회보는 중국, 러시아, 미국이 핵무기를 확장하고 현대화하는 것이 "실수나 오판으로 인한 핵전쟁의 상존하는 위험"을 가중시켰다고 밝혔습니다. 마찬가지로, 우크라이나 전쟁은 또한 "핵 확대의 상존하는 위험"을 만들었습니다.
그러나 인공 지능 도구는 시계가 아마겟돈에 가장 가까운 상태로 남아 있는 이유로도 언급되었습니다.
AI가 카운트다운에 어떤 영향을 미치고 있습니까?
원자 과학자 회보(Bulletin of Atomic Scientists)의 회원들은 2007년부터 AI 위험을 시계 계산에 포함시켰습니다.
그러나 OpenAI의 ChatGPT와 같은 챗봇이 이틀에 한 번씩 헤드라인을 장식하는 등 생성형 AI 기술의 극적이고 빠른 발전 덕분에 올해 목록에서 중요한 언급이 놀라운 일이 아닙니다.
"우리는 특별히 우려되는 한 가지 문제, 즉 개인이 생물학을 오용할 수 있도록 근본적으로 힘을 실어줄 수 있는 새로운 인공 지능 도구와 생물학적 기술의 융합을 강조합니다."
기업과 조직은 생산성을 높이고 오류를 최소화하는 데 도움이 되는 인공 지능 및 대규모 언어 모델의 이점을 누리고 있습니다. 헬스케어 산업에서도 진단 효율성이 높아지면서 긍정적인 AI 효과를 보고 있습니다. 그렇다면, 원자 과학자들이 우려하는 것은 정확히 무엇인가?
Doomsday Clock 성명서에 따르면 우려되는 점은 “대규모 언어 모델을 통해 충분한 노하우가 부족한 개인이 많은 수의 인간, 동물, 식물 및 기타 환경 요소에 해를 끼칠 수 있는 생물학적 작용제를 식별, 획득 및 배포할 수 있다”는 것입니다.
그뿐만 아니라 생성형 AI의 예측 불가능성과 정보를 손상시키고 허위 정보를 확대할 수 있는 잠재력은 모두 민주주의에 대한 위협이며, 이는 결국 핵 위험, 팬데믹 및 기후 변화를 관리하는 방식에 큰 영향을 미칠 수 있습니다.
원자 과학자들은 "예를 들어 인공 지능과 유전 공학의 발전은 엄청난 잠재력을 가지고 있지만 이러한 기술이 어떻게 사용되는지에 따라 상당한 위험을 수반한다"고 말했습니다.
AI 규제가 도움이 될 수 있을까요?
Doomsday Clock의 주요 목표는 인식을 높이고 글로벌 문제를 강조하여 정치인, 세계 지도자 및 시민들 간의 행동을 촉발하는 것입니다.
원자 과학자 회보(Bulletin of the Atomic Scientists)의 회장 겸 CEO인 레이첼 브론슨(Rachel Bronson)은 "우리의 성명서에는 두 가지 핵심 메시지가 있는데, 하나는 자정까지 90초가 매우 불안정하며 안일함을 불러일으켜서는 안 된다는 것이고, 두 번째는 기술의 발전이 이를 통제할 수 있는 우리의 능력을 가속화하고 앞지르고 있다는 것"이라고 설명했습니다.
이는 AI와 같은 "새로운 파괴적 기술"이 적절한 법률과 규정으로 처리되어야 함을 의미합니다.
지난 10월, 조 바이든 미국 대통령은 "생물학적 합성 스크리닝을 위한 강력한 새로운 표준을 개발하여 AI를 사용하여 위험한 생물학적 물질을 설계하는 위험으로부터" 보호할 것을 요구하는 "안전하고 신뢰할 수 있는 AI"에 대한 행정 명령에 서명했습니다. 법적 구속력은 없지만 이 조치는 올바른 방향으로 나아가는 단계입니다.
마찬가지로, 전 세계 많은 국가에서 AI의 잠재적 피해를 인식하고 완화 규제를 시행하고 있습니다. 여기에는 유럽연합(EU)이 제안한 규제 프레임워크, AI 위험을 해결하기 위한 국제 선언, 새로운 유엔 자문기구 구성 등이 포함됩니다.
개인적으로 가장 효과적이고 안전한 방법으로 인공 지능을 사용하려면 사용하는 각 생성형 AI 도구의 한계와 위험을 완전히 이해해야 합니다.
* 정보 출처 : https://tech.co/news/doomsday-clock-ai-impact