비즈니스 기회
보복 없이 AI 위험에 대해 "경고할 권리" 요구
지난 화요일, 오픈AI와 구글 딥마인드(Google DeepMind)의 전직 직원들은 AI 회사들이 보복에 대한 두려움 없이 AI 위험에 대한 우려를 제기할 수 있도록 하는 원칙을 고수할 것을 촉구하는 공개 서한을 발표했습니다.
"첨단 인공 지능에 대해 경고할 권리"라는 제목의 이 서한에는 지금까지 13명이 서명했으며, 일부는 잠재적인 영향에 대한 우려 때문에 익명을 유지하기로 결정했습니다.
또한 AI 기업이 시스템의 기능, 한계 및 위험 수준에 대한 상당한 비공개 정보를 보유하고 있지만 현재 이 정보를 정부와 공유할 의무가 약하고 시민 사회와 공유해야 할 의무는 없다고 주장합니다.
익명으로 서명한 사람으로는 오픈AI의 전 직원인 제이콥 힐튼(Jacob Hilton), 다니엘 코코타일로(Daniel Kokotajlo), 윌리엄 손더스(William Saunders), 캐롤 웨인라이트(Carroll Wainwright), 다니엘 지글러(Daniel Ziegler)와 구글 딥마인드(Google DeepMind)의 전 직원인 라마나 쿠마르(Ramana Kumar)와 닐 난다(Neel Nanda)가 있습니다.
이 단체는 AI 기업이 위험 관련 우려에 대해 회사에 대한 비판을 금지하는 계약을 시행하지 않고, 직원이 우려를 제기할 수 있는 익명 프로세스를 촉진하고, 공개 비판 문화를 지원하고, 다른 프로세스가 실패한 후 위험 관련 기밀 정보를 공개적으로 공유하는 직원에 대해 보복하지 않는 4가지 핵심 원칙을 준수할 것을 촉구합니다.
지난 5월, 켈시 파이퍼(Kelsey Piper)의 복스(Vox) 기사는 오픈AI가 퇴사하는 직원들을 위해 제한적인 기밀 유지 계약을 사용하는 것에 대한 우려를 제기했는데, 이는 전직 직원들이 회사를 비판할 경우 기득권 지분을 취소하겠다고 위협했습니다. 오픈AI CEO 샘 알트만(Sam Altman)은 이 의혹에 대해 "회사는 기득권 지분을 회수한 적이 없으며 직원들이 분리 합의서나 비방 금지 조항에 서명하기를 거부하면 그렇게 하지 않을 것"이라고 밝혔습니다.
그러나 비평가들은 여전히 만족하지 못했고, OpenAI는 곧 이 문제에 대해 공개적으로 입장을 표명했으며, 이러한 조항이 부적절하고 투명성과 책임성이라는 회사의 가치에 위배된다는 것을 인정하면서 분리 계약에서 비방 금지 조항과 지분 환수 조항을 제거할 것이라고 밝혔습니다. OpenAI의 이러한 움직임이 현재의 공개 서한을 가능하게 한 것 같습니다.
허깅페이스(Hugging Face)의 AI 윤리 연구원이자 회사 내 다양성과 검열에 대한 우려를 제기한 후 2021년 구글에서 해고된 마가렛 미첼(Margaret Mitchell) 박사는 아르스 테크니카(Ars Technica)와의 인터뷰에서 기술 업계의 내부 고발자가 직면한 문제에 대해 이야기했습니다. "이론적으로 내부고발에 대해 법적 보복을 당할 수는 없습니다. 실제로는 할 수 있는 것 같습니다"라고 미첼은 말했습니다. "법은 노동자를 희생시키면서 대기업의 목표를 지지합니다. 그들은 노동자들에게 유리하지 않습니다."
미첼은 대기업을 상대로 정의를 추구하는 것의 심리적 대가를 강조하면서, "회사라는 이유로 감정이 없고 당신을 파괴할 수 있는 자원을 가진 조직을 상대로 정의를 추구하기 위해서는 본질적으로 당신의 경력과 심리적 건강을 포기해야 합니다"라고 말했습니다. "해고된 사람인 당신이 보복을 당했다는 것을 증명하는 것은 당신의 의무라는 것을 기억하십시오. 해고된 후 수입원이 없는 한 사람, 정확히 이런 식으로 노동자들에게 해를 끼치는 것을 전문으로 하는 변호사 군대를 가진 1조 달러 규모의 기업을 상대로 말입니다."
이 공개 서한은 요슈아 벤지오(Yoshua Bengio), 제프리 힌튼(Geoffrey Hinton, 과거에 AI에 대해 경고한 적이 있음), 스튜어트 J. 러셀(Stuart J. Russell) 등 AI 커뮤니티의 저명한 인사들의 지지를 받았습니다. 메타(Meta)의 얀 르쿤(Yann LeCun)과 같은 AI 전문가들은 AI가 인류에게 실존적 위험을 초래한다는 주장에 문제를 제기했으며, 다른 전문가들은 "AI 장악"이라는 논점이 편견과 위험한 환각과 같은 현재의 AI 피해로부터 주의를 분산시키는 것이라고 생각합니다.
미첼은 AI가 정확히 어떤 피해를 입힐 수 있는지에 대한 의견 차이에도 불구하고, 서한이 제기한 우려가 잠재적 위험에 대해 발언하는 직원들에 대한 투명성, 감독 및 보호의 시급한 필요성을 강조한다고 느낍니다. "나는 이 서한에 감사하고 동의하지만, 옳은 일을 하는 근로자를 희생시키면서 대기업의 부당한 관행을 불균형적으로 지원하는 법률의 상당한 변화가 필요하다고 생각합니다.“
이상의 기사는 2024년 6월 5일 ArsTechnica에 게재된 “Ex-OpenAI staff call for “right to warn” about AI risks without retaliation”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : Ex-OpenAI staff call for “right to warn” about AI risks without retaliation | Ars Technica