비즈니스 기회
새로운 신경망은 인간처럼 결정을 내립니다
모델 아키텍처. 크레딧: Nature Human Behaviour(2024). DOI: 10.1038/s41562-024-01914-8
인간은 매일 거의 35,000개의 결정을 내립니다.
길을 건너는 것이 안전한지 여부부터 점심으로 무엇을 먹을지까지. 모든 결정에는 옵션을 평가하고, 유사한 과거 시나리오를 기억하고, 올바른 선택에 대해 합리적으로 확신을 갖는 것이 포함됩니다. 성급한 결정처럼 보일 수 있지만 실제로는 주변 환경에서 증거를 수집하여 내린 결정입니다. 그리고 종종 같은 사람이 다른 시간에 같은 시나리오에서 다른 결정을 내립니다.
신경망은 그 반대로 매번 같은 결정을 내립니다. 현재 조지아 공대 부교수 도브로미르 라네프(Dobromir Rahnev)의 연구실은 이들이 인간처럼 결정을 내릴 수 있도록 훈련시키고 있습니다. 인간의 의사결정에 대한 이 과학은 기계 학습에만 적용되고 있지만 실제 인간의 뇌에 더 가까운 신경망을 개발하면 더 신뢰할 수 있을 것이라고 연구진은 말합니다.
Nature Human Behaviour에 실린 논문 "The Neural Network RTNet Exhibits the Signatures of Human Perceptual Decision-Making"에서 심리학과 연구팀은 인간과 유사한 결정을 내리도록 훈련된 새로운 신경망을 공개했습니다.
디코딩 결정
조지아 공대에서 심리학 박사 학위를 취득한 파샤드 라피에이(Farshad Rafiei)는 "신경망은 자신의 결정에 대한 확신이 있는지 여부를 알려주지 않고 결정을 내립니다. 이는 사람들이 결정을 내리는 방식과 근본적인 차이점 중 하나입니다."라고 말했습니다.
예를 들어, 대규모 언어 모델(LLM)은 환각에 취약합니다. LLM이 답을 모르는 질문을 받았을 때, LLM은 모른다는 것을 인정하지 않고 뭔가를 꾸며낼 것입니다.
반대로, 같은 상황에 처한 대부분의 사람들은 답을 모른다는 것을 인정합니다. 보다 인간과 유사한 신경망을 구축하면 이러한 중복성을 방지하고 더 정확한 답변을 얻을 수 있습니다.
모델 만들기
연구팀은 MNIST라는 유명한 컴퓨터 과학 데이터 세트에서 손으로 쓴 숫자로 신경망을 훈련시키고 각 숫자를 해독하도록 요청했습니다. 모델의 정확도를 결정하기 위해 원본 데이터 세트로 실행한 다음 숫자에 노이즈를 추가하여 사람이 식별하기 어렵게 만들었습니다.
모델 성능을 인간과 비교하기 위해 노이즈 없이 원래 MNIST 데이터 세트에서 모델(및 다른 세 가지 모델: CNet, BLNet 및 MSDNet)을 학습시켰지만 실험에 사용된 노이즈가 있는 버전에서 테스트하고 두 데이터 세트의 결과를 비교했습니다.
연구진의 모델은 확률을 사용하여 결정을 내리는 베이지안 신경망(Bayesian Neural Network, BNN)과 각 선택에 대한 증거를 추적하는 증거 축적 프로세스라는 두 가지 핵심 구성 요소에 의존했습니다. BNN은 매번 약간씩 다른 응답을 생성합니다. 더 많은 증거를 수집함에 따라 축적 과정은 때로는 한 가지 선택을, 때로는 다른 선택을 선호할 수 있습니다. 결정을 내릴 충분한 증거가 있으면 RTNet은 축적 프로세스를 중지하고 결정을 내립니다.
연구원들은 또한 인간이 신속하게 결정을 내려야 할 때 정확도가 떨어진다는 것을 지시하는 "속도-정확도 트레이드 오프"라는 심리적 현상을 따르는지 확인하기 위해 모델의 의사 결정 속도를 측정했습니다.
모델의 결과를 얻은 후 인간의 결과와 비교했습니다. 조지아 공대 학생 60명이 동일한 데이터 세트를 보고 의사 결정에 대한 확신을 공유했으며, 연구원들은 정확도, 응답 시간 및 신뢰 패턴이 인간과 신경망 간에 유사하다는 것을 발견했습니다.
"일반적으로 말하자면, 우리는 기존 컴퓨터 과학 문헌에 충분한 인간 데이터를 가지고 있지 않기 때문에 사람들이 이러한 이미지에 노출되었을 때 어떻게 행동할지 알 수 없습니다. 이러한 한계는 인간의 의사 결정을 정확하게 복제하는 모델의 개발을 방해합니다"라고 Rafiei는 말했습니다. "이 작업은 MNIST에 응답하는 인간의 가장 큰 데이터 세트 중 하나를 제공합니다."
연구팀의 모델은 모든 경쟁 결정론적 모델을 능가했을 뿐만 아니라 인간 심리의 또 다른 기본 요소인 RTNet이 인간처럼 행동하기 때문에 고속 시나리오에서 더 정확했습니다. 예를 들어, 사람들은 올바른 결정을 내릴 때 더 자신감을 느낍니다. 신뢰도를 높이기 위해 모델을 특별히 훈련할 필요도 없이 모델이 자동으로 이를 적용했다고 Rafiei는 언급했습니다.
"모델을 인간의 뇌에 더 가깝게 만들면 미세 조정 없이 행동 자체에 나타날 것입니다.
연구팀은 신경망의 잠재력을 테스트하기 위해 더 다양한 데이터 세트에서 신경망을 훈련시키기를 희망합니다. 그들은 또한 이 BNN 모델을 다른 신경망에 적용하여 인간처럼 합리화할 수 있을 것으로 기대합니다.
결국 알고리즘은 우리의 의사 결정 능력을 모방할 수 있을 뿐만 아니라 우리가 매일 내리는 35,000개의 결정에 대한 인지적 부담을 덜어주는 데 도움이 될 수도 있습니다.
이상의 기사는 2024년 7월 15일 TechXplore에 게재된 “A new neural network makes decisions like a human would”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : A new neural network makes decisions like a human would (techxplore.com)
* 추가정보 출처 : The neural network RTNet exhibits the signatures of human perceptual decision-making | Nature Human Behaviour