비즈니스 기회
AI가 연구한 결과를 인간이 이해할 수 있을까요?
크레딧: Pixabay/CC0 퍼블릭 도메인
인공 지능(AI)은 기초 과학의 중심 무대를 차지하고 있습니다.
2024년 노벨 화학물리학상 수상자 5명은 AI라는 공통점을 공유했습니다.
실제로 노벨 위원회를 포함한 많은 과학자들은 AI가 과학을 변화시키는 힘이라고 칭송하고 있습니다.
수상자 중 한 명이 말했듯이 과학적 발견을 가속화할 수 있는 AI의 잠재력은 AI를 "인류 역사상 가장 혁신적인 기술 중 하나"로 만듭니다. 그러나 이러한 변화가 과학에 실제로 의미하는 바는 무엇일까요?
AI는 과학자들이 더 적은 비용으로 더 많은 작업을 더 빠르게 수행할 수 있도록 지원합니다. 그러나 이는 또한 많은 새로운 우려를 불러일으키며, 과학자들이 AI 채택을 성급하게 추진하면 과학을 대중의 이해와 신뢰를 벗어나고 사회의 요구를 충족시키지 못하는 것으로 변질될 위험이 있습니다.
이해의 환상
전문가들은 이미 AI를 사용하는 연구자들을 함정에 빠뜨릴 수 있는 최소 세 가지 환상을 식별했습니다.
첫 번째는 '설명적 깊이에 대한 환상'이다. 단백질 구조 예측으로 노벨 화학상을 수상한 알파폴드(AlphaFold)와 같이 AI 모델이 현상을 예측하는 데 탁월하다고 해서 이를 정확하게 설명할 수 있는 것은 아닙니다. 신경 과학 연구에 따르면 최적화된 예측을 위해 설계된 AI 모델은 근본적인 신경생물학적 메커니즘에 대해 오해의 소지가 있는 결론을 내릴 수 있습니다.
둘째는 '탐구의 폭에 대한 환상'이다. 과학자들은 탐색 연구에서 테스트 가능한 모든 가설을 조사하고 있다고 생각할 수 있지만 실제로는 AI를 사용하여 테스트할 수 있는 제한된 가설 집합만을 보고 있습니다.
마지막으로 '객관성의 환상'이다. 과학자들은 AI 모델이 편향으로부터 자유롭거나 인간의 모든 가능한 편향을 설명할 수 있다고 믿을 수 있습니다. 그러나 실제로 모든 AI 모델은 필연적으로 학습 데이터에 존재하는 편향과 개발자의 의도를 반영합니다.
더 저렴하고 빠른 과학
AI가 과학에서 점점 더 매력적으로 다가오는 주된 이유 중 하나는 훨씬 더 저렴한 비용으로 더 많은 결과를 더 빠르게 생산할 수 있는 잠재력입니다.
이러한 움직임의 극단적인 예가 최근 Sakana AI Labs에서 개발한 "AI Scientist" 기계입니다. 이 회사의 비전은 "자동화된 과학적 발견을 위한 완전한 AI 기반 시스템"을 개발하는 것이며, 각 아이디어를 단 15달러에 완전한 연구 논문으로 만들 수 있지만 비평가들은 이 시스템이 "끝없는 과학적 슬롭"을 생산한다고 말했습니다.
우리는 단지 몇 번의 클릭만으로 연구 논문을 생산할 수 있는 미래를 정말로 원하는가? 이는 의미와 가치가 없는 논문으로 과학 생태계를 범람시킬 위험이 있으며, 이미 과중한 부담을 안고 있는 동료 평가 시스템에 더욱 부담을 줄 수 있습니다.
어쩌면 우리는 한때 우리가 알고 있던 과학이 AI가 생성한 콘텐츠의 소음에 묻혀버리는 세상에 살고 있을지도 모릅니다.
맥락 부족
과학 분야에서 AI의 부상은 과학과 과학자에 대한 대중의 신뢰가 여전히 상당히 높지만 당연하게 여길 수는 없는 시기에 발생합니다. 신뢰는 복잡하고 깨지기 쉽습니다.
코로나 팬데믹 기간 동안 배웠듯이 과학적 증거와 계산 모델은 종종 논쟁의 여지가 있거나 불완전하거나 다양한 해석에 열려 있기 때문에 "과학을 신뢰하라"는 요구는 부족할 수 있습니다.
그러나 세계는 기후 변화, 생물 다양성 손실, 사회적 불평등과 같은 수많은 문제에 직면해 있으며 이러한 문제는 전문가의 판단에 기반한 공공 정책을 필요로 합니다. 이 판단은 또한 특정 상황에 민감해야 하며, 현지 문화와 가치의 렌즈를 통해 해석되어야 하는 다양한 학문 분야와 생생한 경험에서 의견을 수집해야 합니다.
지난해 발간된 국제과학위원회(International Science Council)의 보고서에서 주장했듯이, 과학은 대중의 신뢰를 재건하기 위해 뉘앙스와 맥락을 인식해야 합니다. AI가 과학의 미래를 형성하도록 내버려 두는 것은 이 분야에서 어렵게 이룬 진전을 저해할 수 있습니다.
AI가 과학적 탐구를 주도하도록 허용한다면, AI에 가장 적합한 질문, 방법, 관점 및 전문가의 종류를 우선시하는 단일 지식 문화를 만들 위험이 있습니다.
이로 인해 책임감 있는 AI에 필수적인 초학제적 접근 방식뿐만 아니라 사회적, 환경적 문제를 해결하는 데 필요한 미묘한 공개 추론 및 대화에서 멀어질 수 있습니다.
과학을 위한 새로운 사회계약
21세기가 시작되면서 일부 과학자들은 공적 자금 지원을 받는 대가로 과학자들이 우리 시대의 가장 시급한 문제에 자신의 재능을 집중하는 새로운 사회 계약을 맺었다고 주장했습니다. 목표는 사회가 보다 지속 가능한 생물권, 즉 생태학적으로 건전하고 경제적으로 실행가능하며 사회적으로 정의로운 생물권으로 나아가도록 돕는 것입니다.
AI의 부상은 과학자들에게 자신의 책임을 다할 뿐만 아니라 계약 자체를 활성화할 수 있는 기회를 제공합니다. 그러나 과학계는 먼저 AI 사용에 대한 몇 가지 중요한 질문을 해결해야 합니다.
예를 들어, 과학에서 AI를 사용하는 것은 공적 자금 지원 작업의 무결성을 손상시킬 수 있는 일종의 "아웃소싱"입니까? 어떻게 처리해야 합니까?
AI가 환경에 미치는 영향이 점점 더 커지고 있는 상황은 어떨까요? 그리고 연구자들은 어떻게 하면 AI를 연구 파이프라인에 통합하면서 사회의 기대에 부응할 수 있을까요?
이 사회적 계약을 먼저 수립하지 않고 AI로 과학을 변화시킨다는 아이디어는 말보다 수레를 앞세울 위험이 있습니다.
다양한 목소리와 학문 분야의 의견 없이 AI가 연구 우선순위를 결정하도록 내버려두면 사회가 실제로 필요로 하는 것과 일치하지 않고 자원이 제대로 할당되지 않을 수 있습니다.
과학은 사회 전체에 도움이 되어야 합니다. 과학자들은 자신의 실무 커뮤니티 및 연구 이해관계자와 함께 AI의 미래에 대한 실질적인 대화에 참여해야 합니다. 이러한 논의는 공유된 목표와 가치를 반영하는 이 새로운 사회계약의 차원을 다루어야 합니다.
이제 과학용 AI가 가능하게 하거나 가로막는 다양한 미래를 적극적으로 탐색하고 그 잠재력을 책임감 있게 활용하는 데 필요한 표준과 지침을 수립해야 할 때입니다.
이상의 기사는 2024년 10월 22일 TechXplore에 게재된 “AI is set to transform science—but will we understand the results?”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : AI is set to transform science—but will we understand the results?