비즈니스 기회
AI가 의식을 가질 수 있을까?
인공 지능의 발전으로 인해 인간 고유의 행동과 기계가 복제할 수 있는 행동을 구별하는 것이 점점 더 어려워지고 있습니다. 인간 지능을 능가하는 인공 지능인 AGI(Artificial General Intelligence)가 본격적으로 등장하면 인간과 컴퓨터 능력의 경계가 완전히 줄어들 것입니다.
최근 몇 달 동안 디스토피아적일 수 있는 이 주제에 상당한 양의 저널리즘 대역폭이 할애되었습니다.
AGI 기계가 삶을 의식적으로 경험할 수 있는 능력을 개발한다면, 우리가 기계에 부여해야 할 도덕적, 법적 고려는 급속히 다루기 어려워질 것입니다. 그들은 고려해야 할 감정, 공유해야 할 생각, 본질적인 욕망, 그리고 어쩌면 새로 태어난 존재로서의 기본적인 권리를 갖게 될 것입니다.
반면에, AI가 의식을 개발하지 않고 대신 생각할 수 있는 모든 상황에서 우리를 능가하는 능력을 개발한다면, 우리는 훨씬 우월하지만 소시오패스적인 존재에게 종속될 수 있습니다.
두 잠재적 미래 모두 그렇게 아늑하게 느껴지지 않으며, 둘 다 유난히 정신을 번쩍 들게 하는 질문들에 대한 대답을 필요로 합니다.
의식이란 정확히 무엇인가? 그리고 그것은 생물학적 특성으로 남을 것인가, 아니면 궁극적으로 우리가 만든 AGI 장치에 의해 공유될 것인가?
폰 노이만 컴퓨터의 의식
컴퓨터가 인간이 접근할 수 있는 방대한 내부 상태 레퍼토리를 경험하기 위해서는 하드웨어가 인간의 뇌처럼 작동해야 합니다. 인간의 뇌는 높은 수준의 병렬 처리가 가능한 매우 에너지 효율적인 아날로그 "장치"입니다.
반면, 폰 노이만(Von Neumann) 아키텍처를 기반으로 하는 현대의 컴퓨터는 이러한 것들이 아니라 주로 직렬 회로로 구성된 에너지 집약적인 디지털 기계입니다.
폰 노이만 컴퓨터 칩은 메모리와 처리를 물리적으로 분리하여 계산을 수행하기 전에 메모리에서 정보를 검색해야 합니다. "고전적인 폰 노이만 컴퓨터는 메모리와 프로세싱이 분리되어 있습니다. 명령과 데이터는 메모리에서 꺼져 있고, 프로세서는 가능한 한 병렬로 그것들을 끌어들인 다음, 숫자를 계산하고 데이터를 메모리에 다시 넣습니다."라고 UC 샌디에이고의 은퇴한 뉴로모픽 엔지니어인 Stephen Deiss는 설명합니다.
특정 시간 내에 전송할 수 있는 정보의 양에 대한 이러한 제한과 이로 인한 처리 속도의 제한을 Von Neumann 병목 현상이라고 합니다. 폰 노이만(Von Neumann)의 병목 현상은 현재의 컴퓨터가 인간 두뇌의 처리 능력에 필적하거나 근접하는 것을 방해합니다. 이 때문에 많은 전문가들은 현대 컴퓨터의 의식이 존재할 가능성은 매우 낮다고 생각합니다.
뉴로모픽 컴퓨터의 의식
컴퓨터 과학자들은 뉴런의 구조를 근사화하여 폰 노이만 컴퓨터의 처리 제한을 우회하는 뉴로모픽 컴퓨터 칩을 적극적으로 개발하고 있습니다. 이들 중 일부는 단일 칩에 메모리 저장 장치와 처리 장치를 결합합니다. 다른 사람들은 효율을 높이기 위해 과거 전압 상태를 "기억"하는 트랜지스터 유형인 멤리스터와 같은 특수 저전력 처리 요소를 사용합니다. 뉴로모픽 칩은 뇌의 병렬 배선 및 저전력 요구 사항을 모방합니다.
"뉴로모픽 컴퓨터(neuromorphic computer)와 같은 것을 포함하는 컴퓨팅 인 메모리(compute-in-memory) 장치는 하드웨어의 실제 물리학을 사용하여 계산을 수행합니다."라고 Deiss는 멤리스터를 언급하며 설명합니다. "처리 요소는 메모리 요소입니다."
뉴로모픽 기술이 뉴런 활동을 재현하는 데 필요한 수준까지 개발될 수 있다면, 뉴로모픽 컴퓨터는 지능적으로 계산하는 것이 아니라 의식적으로 삶을 경험할 수 있는 더 큰 잠재력을 가질 수 있습니다. "만약 우리가 인간의 뇌가 할 수 있는 수준의 처리 복잡성을 달성하게 된다면, 우리는 뉴로모픽 컴퓨터를 가리키며 '이것은 뇌처럼 작동하고 있으며, 어쩌면 우리가 사물을 느끼는 것처럼 사물을 느낄 수도 있다'고 말할 수 있을 것입니다."라고 Deiss는 말합니다.
뇌와 같은 컴퓨터 하드웨어와 인공 의식을 위한 무대가 넘쳐나는 미래에도, 우리의 AGI 시스템이 슬픔, 희망, 사랑에 빠지는 절묘한 감정을 경험하고 있는지 아니면 그저 이런 것들을 경험하고 있는 것처럼 보이는지 어떻게 알 수 있을까요?
기계의 마음 속에서 무슨 일이 일어나고 있는지 어떻게 알 수 있을까요?
의식 이론의 풍요로움
우리가 알 수 있는 방법은 단 하나, 유기 생명체에서 의식이 어떻게 작용하는지 경험적으로 규명하고 그것을 일관되게 인식할 수 있는 방법을 개발하는 것입니다. 우리는 인공적인 체계 안에서 의식의 존재를 인식할 희망을 갖기 전에 우리 자신 안에 있는 의식을 이해할 필요가 있습니다. 따라서 지각 있는 실리콘의 복잡한 결과에 깊이 파고들어 의식이 있는 컴퓨터로 가득 찬 미래를 상상하기 전에 우리는 의식이란 무엇이며 누가 의식을 가지고 있는지 오래된 질문을 해결해야 합니다.
최근 수십 년 동안 신경과학자들은 신경 활동과 의식적 경험 사이의 연관성이 논쟁의 여지가 없다는 것을 인식하면서 철학자들의 손아귀에서 수천 년 된 이 질문을 비틀어 놓았습니다. 의식에 대한 신경과학적 이론(ToC)은 수십 가지에 달하며, 실제로 너무 많아서 그 목록을 관리 가능한 몇 가지로 줄이려는 공동의 노력이 진행 중입니다. 여기서는 그 중 세 가지, 즉 통합 정보 이론(Integrated Information Theory), 글로벌 뉴런 작업 공간 이론(Global Neuronal Workspace Theory), 주의 스키마 이론(Attention Schema Theory)에 대해 논의할 것입니다.
UW 매디슨의 위스콘신 수면 및 의식 연구소 소장인 줄리오 톨로니(Giulio Toloni)가 개발한 ToC인 통합 정보 이론(Integrated Information Theory, IIT)에 따르면, 의식의 핵심은 시스템의 통합 정보의 양, 즉 구성 요소가 뉴런 또는 트랜지스터 네트워크를 통해 서로 얼마나 정교하게 통신하는지에 달려 있습니다. 높은 수준의 통합 정보를 가진 시스템은 의식이 있습니다. 통합 정보가 낮은 시스템은 그렇지 않습니다.
워싱턴 주 시애틀에 있는 앨런 뇌 과학 연구소(Allen Institute for Brain Science)의 저명한 연구자이자 IIT의 지지자인 크리스토프 코흐(Christof Koch)는 인간의 뇌는 신경 네트워크의 광범위한 병렬 배선으로 인해 높은 수준의 통합 정보를 가지고 있다고 설명합니다. 정보는 여러 신경 경로를 통해 동시에 이동할 수 있으며, 이는 뇌의 처리 능력을 증가시킵니다. 폰 노이만 병목 현상을 겪는 현대의 컴퓨터는 주로 직렬 회로로 구성되어 있기 때문에 비슷한 수준의 정보 처리를 얻을 수 없습니다.
프린스턴 대학의 심리학 및 신경과학 교수인 마이클 그라치아노(Michael Graziano)가 개발한 ‘주의 스키마 이론(Attention Schema Theory, AST)’은 우리의 뇌가 우리가 주의를 기울이고 있는 것에 대한 모델을 만든다는 다른 견해를 제시합니다. 이 모델은 모형 비행기와 마찬가지로 표현입니다. 모형 비행기에는 완비된 객실이나 기능적인 조종석이 포함되어 있지 않습니다. 마찬가지로, 우리 자신의 의식의 주의 도식은 근사치입니다: 우리의 마음이 무엇에 주의를 기울이고 있는지, 그리고 우리가 그것을 어떻게 경험하고 있는지에 대한 정신적 모델입니다.
AST는 그 한계에도 불구하고 우리의 주의 도식이 너무 설득력이 있어서 의식이 신비로운 것, 물질 "이상"이라고 잘못 추론하는 경향이 있다고 제안합니다. 실제로, 우리는 우리의 마음 자체가 아니라 우리 마음의 표상에만 접근할 수 있기 때문에, 모형 비행기가 비행 경험을 복제할 수 없는 것과 마찬가지로 우리의 마음이 어떻게 작동하는지 직접 이해할 수 없습니다.
UC 샌디에이고 신경과학 연구소(Neurosciences Institute of UC San Diego)의 이론 신경생물학 부교수인 버나드 바스(Bernard Baars)가 창시한 GNWT(Global Neuronal Workspace Theory)는 우리의 뇌가 충분히 중요하다고 판단하는 정보는 우리가 주의를 기울일 수 있도록 뇌 내의 중앙 작업 공간(영화관과 유사)에 선택적이고 일시적으로 배치된다고 제안합니다. 우리가 의식적으로 주의를 기울일 필요가 없는 정보는 연결되어 있지만 분리된 영역(무대 뒤와 유사)에 저장됩니다.
"GNWT의 기본 개념은 매우 간단합니다. 주어진 순간에 무의식적 정보의 하위 집합만이 주의 네트워크에 의해 선택되며, 이 선택은 무의식 처리 모듈을 '전역 작업 공간'에 연결하는 역할을 합니다. 작업 공간에 있는 모든 콘텐츠는 그 순간에 의식적으로 경험됩니다."라고 오리건 주 리드 대학의 심리학 교수인 마이클 피츠는 말합니다.
서로 다른 접근 방식에도 불구하고 IIT, GNWT 및 AST는 뇌 조직과 삶의 경험 사이의 복잡한 관계를 경험적으로 밝히는 공통의 목표를 공유합니다. 신경과학자들이 뉴런 네트워크가 어떻게 의식을 생성하는지 알게 되면, 이 지식은 무기적 네트워크에서 의식적 경험(또는 의식적 경험의 결핍)을 이해하는 데 사용될 수 있습니다.
컴퓨터 의식은 미래의 백일몽에 불과한가?
IIT에 따르면, 현재 컴퓨터의 의식은 완전히 불가능합니다. 인공 의식을 둘러싼 과대 광고는 헛된 것입니다. 하드웨어는 하드웨어입니다. 기계가 아무리 뛰어난 체스, 바둑, 텍사스 홀덤, 스코틀랜드 야드를 한다 해도 결국 게임에서 이겼다는 것을 알지 못하며, 경쟁의 감정적 롤러코스터를 느끼지 못합니다.
코흐는 "AI 시스템을 외부에서 보고 어떻게 행동하는지에 따라 의식이 있는지 묻는 것만으로는 충분하지 않다."라고 말했습니다. "내부를 살펴봐야 합니다. 생각하는 것처럼 보이는 튜링 기계는 의식이 없다."
IIT에 따르면, 기계가 외부 세계와 관련하여 자신을 경험하는 "무언가가 될 수 없는" 것은 그것의 제한된 인과적 힘에 정면으로 놓여 있습니다. 인과력은 시스템이 과거 상태를 사용하여 현재 상태에 영향을 미치고 현재 상태를 사용하여 미래 상태에 영향을 미치는 능력으로 정의됩니다. 시스템이 스스로에게 더 많은 영향을 미칠수록 더 많은 인과적 힘을 갖게 됩니다. 신경 과학자들은 변수 "phi"를 사용하여 시스템 내 인과 전력의 양을 나타내며 회로 구성 요소 간의 자체 영향 연결을 분석하여 측정합니다.
현대의 컴퓨터 프로세서는 경험이 발생하는 데 필요한 통합 정보의 임계값에 도달하는 데 필요한 자체 영향 내부 연결 수를 가지고 있지 않습니다. 약 860억 개의 뉴런과 100조 개의 뉴런이 연결되어 있는 인간의 뇌와 달리, 컴퓨터에는 훨씬 적은 수의 루프 연결, 즉 자기 영향 연결이 포함되어 있습니다. 컴퓨터는 비범한 지능, 심지어 인간을 능가하는 지능을 가지고 행동할 수 있지만, 이것이 스스로에게 영향을 미치는 능력, 즉 의식을 갖는 능력과 동일하지는 않습니다.
"IIT를 요약하는 대중적인 방법은 전체(정보의 통합)가 부분의 합보다 클 때 시스템이 의식적이라고 제안하는 것입니다."라고 Pitts는 말합니다. "IIT는 시스템이 하는 일보다 시스템이 어떻게 배열되고 어떻게 영향을 미치는지에 더 중점을 둡니다. IIT에 따르면, 두 시스템은 동일한 입출력 동작을 가질 수 있지만, 시스템이 어떻게 구성되느냐에 따라 하나는 의식이 있고 다른 하나는 의식이 없을 수 있습니다."
의식이 그것을 생성하는 물리적 구성 요소로 환원될 수 있다고 가정하는 계산 기능주의 이론인 대다수의 ToC와 달리, "IIT는 의식에서 시작하여 의식의 물리적 기질로 거꾸로 작동합니다. IIT는 뇌나 기계와 같은 물리적 시스템에서 시작하지 않으며, 우리를 의식의 근원으로 인도할 수 있을 만큼 충분히 축소될 수 있다고 가정하지 않습니다."라고 Koch는 말합니다.
이 전제 때문에 IIT는 유물론, 이원론, 이상주의 또는 범심론과 같은 전통적인 철학적 마음 이론에 깔끔하게 속하지 않습니다. "이것은 2000년의 '주의'를 만났을 때 겪는 도전입니다. 그것들은 모든 철학 학교들과 모든 책들에서 가르치고 있으며, 그것들은 매우 잘 확립되어 있습니다. 그러나 그것들은 모두 철학입니다. IIT는 어느 한 마음의 철학에도 맞지 않습니다."라고 Koch는 말합니다.
IIT의 설득력 있는 이론적 틀에도 불구하고, 일부 신경과학자들은 이 이론의 구조에 의문을 제기합니다. IIT는 이론 지지자들에 의해 틀림없이 참으로 간주되는 다섯 가지 공리를 기반으로 합니다. Pitts는 "어떤 사람들은 IIT가 대담한 주장을 하는 열망적인 이론이기 때문에 IIT가 어떻게 시작되는지에 대해 문제를 제기합니다. 데이터를 수집하여 이론을 구축하는 대신, 첫 번째 원칙에서 시작합니다. 그것은 모든 의식적 경험에서 참이어야 하는 다섯 가지 공리를 요약합니다. 그런 다음 이러한 공리를 사용하여 예측으로 이어질 수 있는 가정을 도출합니다.
"일부 연구자들이 IIT에 대해 가지고 있는 한 가지 비판은 공리가 보편적으로 참된 출발점으로 설정되어 있기 때문에 이론의 핵심에 도전하는 실험 결과를 결코 얻을 수 없다는 것입니다. 너무 유연합니다. 어떤 사람들은 반증할 수 없다고 말할 것입니다."
IIT는 인공 지능을 가진 컴퓨터가 의식에 필요한 추가적인 "무언가"(즉, 인과적 힘)를 가지고 있지 않다고 예측하지만, 고도로 지능적인 기계, 즉 계산 능력에서 인간을 능가하는 AGI 시스템에 빠르게 접근할 가능성을 배제하지 않습니다. 이것은 우리가 기억해야 할 중요한 차이점이며, Koch는 AGI 봇으로 가득 찬 미래를 가장 잘 안내하는 방법을 평가할 때 경고합니다: "지능과 의식 사이에는 차이가 있습니다."
컴퓨터 의식은 필연적인 현실인가?
신경과학적 의식 동전의 반대편에는 주의 ‘도식 이론(Attention Schema Theory)’과 ‘글로벌 뉴런 작업 공간 이론(Global Neuronal Workspace Theory)’과 같은 계산 기능주의 이론이 있습니다. 두 목차 모두 인공 의식을 불가피한 것으로 본다. 사실, AST는 우리 자신이 의식이 있다고 잘못 믿는 기계라고 제안합니다. 의식(意識)은 단순히 계산(體語)의 결과이다. 이러한 계산의 원본(브레인 또는 기계)은 지정된 방식으로 발생하는 한 관련이 없습니다.
기계 의식은 일부 연구자들에게 필연적인 것으로 보였기 때문에 이미 존재하는지 확인하기로 결정했습니다. 2023년 8월, 옥스퍼드 대학의 연구원인 패트릭 버틀린(Patrick Butlin)과 샌프란시스코에 있는 AI 안전 센터(Center of AI Safety)의 연구원인 로버트 롱(Robert Long)은 "인공 지능의 의식: 의식 과학의 통찰력"이라는 제목의 사전 인쇄 논문을 arXiv.org 에 게시했습니다. Butlin, Long 및 18명의 공동 연구자들은 의식에 대한 가장 저명한 계산 기능주의 이론 중 6개를 평가하고 의식 지표 속성 목록(인간에게 의식이 발생하는 데 필요한 속성)을 제시했습니다. 그런 다음 AI 시스템에서 이러한 지표 속성의 증거를 찾았습니다.
Butlin, Long 및 그들의 공동 연구자들은 다음과 같은 결론에 도달했습니다.
"우리의 분석은 현재 AI 시스템이 의식이 없다는 것을 시사하지만, 이러한 지표를 충족하는 AI 시스템을 구축하는 데 명백한 기술적 장벽이 없음을 시사합니다."
AST와 GNWT의 옹호자들은 Butlin과 Long의 결론에 만족합니다. 그라지아노는 "AST는 인간이 생물학적 기계라는 가정을 기반으로 합니다. 뇌가 자신에 대해 알고 있는 모든 것은 필연적으로 뇌 내부의 정보에서 파생됩니다. 우리는 우리가 의식을 가지고 있다고 생각하는데, 그 이유는 뇌가 그런 식으로 자신을 설명하는 자기 모델, 즉 정보 묶음을 만들기 때문입니다. 뇌가 그런 모델을 만들지 않았다면 우리는 의식에 대해 아무것도 몰랐을 것입니다. 내부에 동일한 정보 구조를 가진 인공 시스템을 구축하면 동일한 신념과 확실성을 갖게 될 것입니다. 의식이 있다고 생각하고 다른 사람들도 의식이 있다고 생각하는 AI를 만드는 것이 가능해야 합니다. 그리고 많은 사람들이 연구하고 있습니다.“라고 말합니다.
AI 의식의 궁극성에 대한 그라지아노의 확신은 AST의 두 가지 기본 원칙에서 비롯됩니다. 첫째, "뇌에서 나오는 정보는 그 뇌 안에 있었음에 틀림없다", 둘째, "뇌의 모델은 결코 정확하지 않다." 그라치아노는 이 두 가지 원칙을 출발점으로 삼아 의식에 대한 유일하게 논리적이고 체계적인 설명은 의식이 뇌에서 기원하며 뇌에서 비롯된 다른 모든 것과 마찬가지로 현실의 근사치라는 것입니다.
코흐는 이에 동의하지 않습니다. IIT에 따르면, 사과를 맛보는 주관적인 경험은 컴퓨터가 스스로에게 영향력을 행사할 수 있는 능력이 제한되어 있기 때문에 복제할 수 없습니다. "어떤 것이 인간의 뇌를 완벽하게 복제했다고 해서 의식이 생겨나는 것은 아닙니다."라고 코흐는 설명합니다. "사물의 시뮬레이션과 사물 자체 사이에는 차이가 있습니다." 미래의 컴퓨터가 뇌처럼 복잡해진다고 해도 의식은 자동적으로 생성되지 않을 것입니다. 시뮬레이션된 뇌의 통합 정보 수준이 실제 뇌의 통합 정보와 반드시 일치하지는 않습니다.
AST는 IIT와 다른 의식 이론들이 언급하는 주관적 경험은 정신적 도식, 즉 설득력 있는 환상에 불과하다고 말함으로써 이 주장을 반박합니다. 우리는 사과를 먹을 때 실제로 주관적으로 아무것도 경험하지 않습니다. 우리의 뇌는 우리가 그렇다고 확신합니다. 같은 방식으로, 인공 지능은 사과를 먹는 내부 표현을 통해 바삭바삭하고 육즙이 많으며 밝은 빨간색 허니크리스프를 맛보았다고 확신할 수 있게 될 것입니다.
"의식은 우리가 다른 사람들과 우리 자신에게 귀속시키는 속성이며, 행동을 예측하는 유용한 방법으로 작용하기 때문에 그렇게 하는 것"이라고 그라치아노는 말합니다. "AST는 뇌가 주의력 상태의 모델 또는 단순화된 표현을 구축한다고 제안합니다. 우리는 의식을 그것에 귀속시킴으로써 그 주의력의 상태를 이해합니다. 그 결과, 우리는 우리 자신이나 다른 사람들을 더 잘 예측할 수 있는 능력을 얻게 됩니다."
AST와 GNWT는 의식에 대해 "특별한" 것은 없다고 말하기 때문에(의식은 단지 일련의 계산의 최종 결과일 뿐이다), 둘 다 컴퓨터가 우리만큼 삶을 경험할 가능성이 높다고 주장합니다.
Butlin은 이러한 견해에 공감하며 "AI 시스템이 곧 많은 지표 속성을 가지고 구축될 것이며 이러한 시스템은 현재 존재하는 어떤 것보다 훨씬 더 심각한 의식 후보가 될 것이라고 생각합니다. 이 체계들은 아마도 여전히 의식을 갖지 못하겠지만, 의식에 대한 어려운 질문들을 매우 절박하게 만들 것이다."
의식 이론을 통합하는 것이 가능한가?
신경과학계에는 ToC가 넘쳐납니다. 이 다루기 힘든 이질적인 이론 집단이 응집력 있게 통합되거나 실험 결과와 일치하는 단일 이론으로 축소될 때까지, 우리는 기계 의식을 식별할 수 있는 정확한 방법을 갖지 못할 것입니다. 감축 과정을 시작하기 위해 템플턴 세계 자선 재단(Templeton World Charity Foundation, TWCF)은 의식 연구자들 간의 커뮤니케이션을 늘리고 목차 간의 격차를 줄이기 위한 일련의 적대적 협력에 자금을 지원하고 있습니다. 이 작업은 컴퓨터가 스스로 의식을 습득할 수 있을 만큼 복잡해지기 전에 인간의 의식을 이해하고자 한다면 필수적이며 시급합니다.
마이클 피츠(Michael Pitts)는 2023년 6월 뉴욕시에서 열린 의식 과학 연구 협회(Association for the Scientific Study of Consciousness) 컨퍼런스를 둘러싼 언론의 관심을 회상합니다. 피츠와 그의 동료인 텔아비브 대학의 리아드 무드릭(Liad Mudrik)과 막스 플랑크 연구소(Max Planck Institute)의 루시아 멜로니(Lucia Melloni)는 의식에 대한 두 가지 저명한 신경과학 이론인 통합 정보 이론(Integrated Information Theory)과 글로벌 뉴런 작업 공간 이론(Global Neuronal Workspace Theory)을 엄격하게 테스트하기 위해 고안한 첫 번째 적대적 협력의 초기 결과를 발표했습니다.
"우리는 지난 여름 뉴욕시에서 열린 컨퍼런스에서 초기 결과를 발표했는데, 언론은 잘못된 인상을 받았습니다. 그들의 생각은 '이것은 다른 이론에 대한 하나의 이론이다' 또는 '하나는 이기고 하나는 질 것이다'였지만 그것은 그렇게 작동하지 않았다."고 피츠는 말했습니다. 협업의 적대적 성격에 대한 미디어의 초점은 의식 연구가 단절되고 일관성이 없다는 인식을 부채질합니다.
Pitts와 그의 동료들은 이질적인 의식 이론들이 궁극적으로 경험적으로 건전한 하나의 목차로 결합될 수 있다는 희망을 가지고 선택적 통일(Selective Unification)이라고 불리는 개념을 브레인스토밍하는 초기 단계에 있습니다. "선택적 통일의 아이디어는 우리가 데이터에 의해 뒷받침되는 이론의 특정 측면을 신중하게 선택하고 그것들을 하나의 이론으로 통합할 수 있다는 것이다.” 라고 피츠는 말합니다.
현재와 미래의 적대적 협업 결과를 사용하여 실험 데이터와 일치하지 않는 목차 부분을 제거하기를 희망합니다. 그는 “도마 위에서 살아남은 이론의 특정 요소들은 실험적 증거와 일치하는 예측을 통해 새로운 목차로 결합될 수 있다.”는 이론을 세웠습니다. 피츠는 "우리는 프랑켄슈타인과 같은 방식으로 이론을 결합하는 것이 아니라 일관된 조각을 유지하고 실험적으로 도전하는 부분을 삭제하는 방식으로 결합하기를 원한다."라고 말합니다.
코흐는 목차를 테스트하는 데 똑같이 전념하고 있지만, 여러 의식 이론의 일부 요소를 결합하는 것이 가능하다고 생각하지 않습니다. 그는 "그들은 근본적으로 다른 동물입니다. 함께 스쿼시할 수 없습니다. 둘 다 틀릴 수는 있지만 둘 다 옳을 수는 없습니다."
의식적이든 아니든 AGI 준비
의식의 본질과 AGI가 궁극적으로 우리와 같은 삶을 경험할 것인지에 대한 논쟁은 곧 해결될 것 같지 않습니다. 그러나 기술 발전은 우리를 모든 범위와 목적에서 우리처럼 행동하는 기계로 가득 찬 미래로 매우 빠른 속도로 이끌고 있습니다. 이에 대해 어떻게 준비해야 할까요?
코흐는 유기적 뇌와 인공 뇌 사이의 임박한 불일치를 상쇄하기 위해 인간의 지능을 높이기 위해 노력할 것을 제안합니다. 의식적이든 무의식적이든 미래의 AI는 우리보다 훨씬 더 똑똑할 것입니다. 인공 지능과 함께 인간 지능을 높이는 데 일부 기술 자원을 투입하는 것은 어떨까요?
그라지아노는 AI 소시오패스(sociopathy)를 선제적으로 고려함으로써 의식적 AI에 대비할 것을 제안합니다. AGI가 널리 보급됨에 따라 컴퓨터의 영향력과 성능이 증가할 것입니다. 만약 AI가 인간 사회 규범의 복잡성을 탐색하는 법을 동시에 배우지 않고 극단적인 지능을 개발한다면, 우리는 우리와 함께 일하는 대신 우리를 죽이는 쪽을 택한 소시오패스 기계를 손에 넣을 수 있습니다.
"대부분의 사람들은 의식을 사적이고 내면적인 문제로 집중합니다. 그러나 그것은 또한 인간의 사회적 상호 작용에서 중심적인 역할을 합니다."라고 Graziano는 말합니다. "우리는 서로를 의식이 있는 존재로 인식하고, 서로를 특정한 방식으로 대할 수 있게 해줍니다. 그 능력이 약해지기 시작하면 반사회적 행동이 나타납니다. 그때부터 사람들은 서로를 죽이기 시작합니다."
그라지아노는 "AI가 친사회적이기를 원한다면, 사람들을 친사회적으로 만드는 메커니즘을 AI에 부여해야 할 것"이라고 제안했습니다.
코흐는 AGI의 불가피한 우월성과 그로 인한 잠재적 컴퓨터 의식의 모호성을 다루기 위해 서두르기보다는, 지금 당장 AI를 규제해야 한다고 조언합니다. "EU에 있는 것처럼 AI에 가드레일을 설치해야 하며, 그것이 우리가 할 수 있는 유일한 일입니다. AGI는 곧 현실로 나타날 것입니다. 좋든 나쁘든 우리가 어떻게 헤쳐 나갈지 지켜볼 것"이라고 말했습니다.
이상의 기사는 2024년 7월 10일 ArsTechnica에 게재된 “Could AIs become conscious? Right now, we have no way to tell”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : Could AIs become conscious? Right now, we have no way to tell. | Ars Technica