오이마켓기술을 고객가치로 만드는 미디어

비즈니스 기회

차세대 AI 빌더에게 전하는 말: 'LLM에 집중하지 말라'

박윤석 VP · 2024.05.28

차세대 AI 빌더에게 전하는 말: 'LLM에 집중하지 말라'

AI의 선구자인 얀 르쿤(Yann LeCun)은 차세대 개발자들에게 대규모 언어 모델(LLM)에서 작업하지 말라고 말한 후 오늘 활발한 토론을 시작했습니다.

"이것은 대기업의 손에 달려 있으며, 테이블에 가져올 수 있는 것은 아무것도 없습니다. LLM의 한계를 뛰어넘는 차세대 AI 시스템을 개발해야 합니다."라고 Lecun은 오늘 파리에서 열린 VivaTech에서 말했습니다.

Meta의 수석 AI 과학자이자 NYU 교수의 발언은 순식간에 많은 질문을 불러일으켰고 오늘날 LLM의 한계에 대한 대화를 촉발했습니다.

물음표와 머리를 긁적이는 질문에 LeCun은 X(구 Twitter)에 대해 다음과 같이 자세히 설명했습니다: "저는 LLM이 아닌 차세대 AI 시스템을 직접 작업하고 있습니다. 그러니까 엄밀히 말하자면, '나랑 경쟁해라', 아니 '나랑 같은 일을 해봐, 그래야 그래야 해. 그래야 더 즐거워!'

더 이상 구체적인 예시가 제시되지 않자 많은 X 사용자는 "차세대 AI"가 무엇을 의미하는지, LLM의 대안이 무엇인지 의문을 제기했습니다.

개발자, 데이터 사이언티스트, AI 전문가들은 X 스레드와 서브 스레드에 대해 경계 기반 또는 차별적 AI, 멀티태스킹 및 멀티모달리티, 범주형 딥러닝, 에너지 기반 모델, 보다 목적이 분명한 소언어 모델, 틈새 사용 사례, 맞춤형 미세 조정 및 훈련, 상태 공간 모델 및 구현된 AI를 위한 하드웨어 등 다양한 옵션을 제공했습니다. 일부는 신경망의 새로운 돌파구인 콜모고로프-아놀드 네트워크(Kolmogorov-Arnold Networks, KAN)를 탐색할 것을 제안하기도 했습니다.

한 사용자는 5개의 차세대 AI 시스템을 다음과 같이 지적했습니다.

1. 멀티모달 AI

2. 추론 및 일반 지능

3. Embodied AI와 로보틱스

4. 비지도 및 자기 지도 학습

5. 인공 일반 지능(AGI)

또 다른 학생은 "모든 학생은 아래와 같은 기초부터 시작해야 한다"고 말했습니다.

- 통계 및 확률

- 데이터 랭글링, 정리 및 변환

- 나이브 베이즈(naïve Bayes), 의사 결정 트리(decision trees), 랜덤 포레스트(random forest) 및 배깅(bagging)과 같은 고전적인 패턴 인식

- 인공 신경망

- 합성곱 신경망

- 순환 신경망

- 제너레이티브 AI

반면에 반대자들은 지금이 학생들과 다른 사람들이 LLM을 작업하기에 완벽한 시기라고 지적했는데, 그 이유는 응용 프로그램이 여전히 "거의 활용되지 않았기 때문"입니다. 예를 들어, 프롬프트, 탈옥 및 접근성과 관련하여 아직 배워야 할 것이 많습니다.

다른 이들은 당연히 메타가 다작을 하는 LLM 빌딩을 지적하며 르쿤이 경쟁을 억압하기 위해 전복을 시도하고 있다고 주장했습니다.

또 다른 사용자 drolly는 "대기업의 AI 책임자가 '경쟁하려고 하지 말고, 테이블에 가져올 수 있는 것은 아무것도 없다'고 말하면 경쟁하고 싶어진다"고 말했습니다.

LLM은 결코 인간 수준의 지능에 도달하지 못할 것입니다

목표 기반 AI와 오픈소스 시스템의 옹호자인 르쿤은 이번 주 파이낸셜 타임스(Financial Times)와의 인터뷰에서 LLM은 논리에 대한 이해가 제한적이며 인간 수준의 지능에 도달하지 못할 것이라고 말했습니다.

그들은 "물질계를 이해하지 못하고, 지속적인 기억력을 가지고 있지 않으며, 그 용어에 대한 합리적인 정의를 추론할 수 없고, 위계적으로 계획을 세울 수 없다"라고 그는 말했습니다.

메타(Meta)는 최근 매우 상세한 객체 상호작용을 감지하고 이해할 수 있는 V-JEPA(Video Joint Embedding Predictive Architecture)를 공개했습니다. 이 아키텍처는 회사가 "Yann LeCun의 AMI(Advanced Machine Intelligence) 비전을 향한 다음 단계"라고 부르는 것입니다.

많은 사람들이 LLM의 좌절에 대한 LeCun의 감정에 공감합니다. AI 채팅 앱 파우네(Faune)의 X 계정은 폐쇄 루프 시스템이 유연성 측면에서 "엄청난 한계"를 가지고 있기 때문에 오늘 르쿤의 발언을 "굉장한 해석"이라고 평가했습니다. 연구진은 "전전두엽 피질과 개방형 자기 훈련을 통해 정보 흡수를 할 수 있는 능력을 가진 AI를 만드는 사람은 아마도 노벨상을 받을 것"이라고 주장했습니다.

다른 사람들은 LMM에 대한 업계의 "명백한 집착"을 묘사하고 "진정한 진보를 달성하는 데 막다른 골목"이라고 불렀습니다. LLM은 올바른 AI에게 전달되기 전에 전화 교환원처럼 빠르고 효율적으로 "시스템을 그룹화하는 결합 조직"에 불과하다는 점에 주목했습니다.

오래된 라이벌 관계

물론 르쿤은 결코 논쟁을 피하는 사람이 아니었습니다. 많은 사람들이 그와 동료 AI 대부인 Geoffrey Hinton, Andrew Ng, Yoshia Bengio가 AI의 실존적 위험을 놓고 열띤 논쟁을 벌였던 것을 기억할 것입니다.

적어도 한 명의 업계 관찰자는 영국의 컴퓨터 과학자가 LLM에 올인할 것을 조언한 최근 Geoffrey Hinton의 인터뷰를 지적하면서 이러한 급격한 의견 충돌을 다시 언급했습니다. Hinton은 또한 AI 뇌가 인간의 뇌와 매우 가깝다고 주장했습니다.

이상의 기사는 2024년 5월 22일 VentureBeat에 게재된 “AI pioneer LeCun to next-gen AI builders: ‘Don’t focus on LLMs’”제목의 기사 내용을 편집하여 작성하였습니다.

* 원문정보 출처 : AI pioneer LeCun to next-gen AI builders: 'Don't focus on LLMs' | VentureBeat