비즈니스 기회
초지능 안전문제를 해결하기 위한 새로운 스타트업 발표
AI가 생성한 초지능 뇌 이미지
일리야 수츠케버(Ilya Sutskever)는 지난 5월 오픈AI의 수석 과학자 자리에서 물러난 후 다음 작업을 진행하고 있다고 밝혔습니다. 오픈AI 동료인 다니엘 레비(Daniel Levy)와 애플의 전 AI 책임자이자 큐(Cue)의 공동 창업자인 다니엘 그로스(Daniel Gross)와 함께 세 사람은 안전한 초지능을 구축하기 위해 6월 19일 설립된 스타트업인 ‘세이프 슈퍼인텔리전스(SSI : Safe Superintelligence Inc.)’에서 일하고 있다고 발표했습니다.
SSI의 현재 웹 사이트에 게시된 메시지에서 설립자는 안전한 초지능을 구축하는 것이 "우리 시대의 가장 중요한 기술적 문제"라고 썼습니다. 또한 "우리는 혁신적인 엔지니어링과 과학적 혁신을 통해 해결해야 할 기술적 문제로 안전과 기능을 함께 접근합니다. 우리는 가능한 한 빨리 기능을 발전시키는 동시에 항상 안전을 최우선으로 유지할 계획입니다."
초지능이란 정확히 무엇입니까? 가장 똑똑한 인간보다 훨씬 뛰어난 지능을 가진 가상의 에이전트입니다.
이는 Sutskever가 OpenAI에 있을 때부터 진행한 작업의 연속입니다. 그는 회사의 Superalignment 팀의 일원으로 강력한 새 AI 시스템을 제어하는 방법을 설계하는 임무를 맡았습니다.
물론 OpenAI의 공동설립자는 2023년 11월 CEO인 Sam Altman의 축출에서 중심적인 역할을 했습니다. Sutskever는 나중에 그 상황에서 자신의 역할을 후회한다고 말했습니다.
SSI는 "하나의 초점, 하나의 목표, 하나의 제품으로 직선 샷"으로 안전한 초지능을 추구할 것이라고 주장합니다.
이상의 기사는 2024년 6월 19일 VentureBeat에 게재된 “OpenAI co-founder Ilya Sutskever announces new startup to tackle safe superintelligence”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : OpenAI's Ilya Sutskever's new startup aims to make safe superiintelligence | VentureBeat