비즈니스 기회
인간은 AI를 훈련시킬 때 자신의 행동을 바꿉니다
크레딧: Pixabay/CC0 퍼블릭 도메인
세인트루이스에 있는 워싱턴 대학의 새로운 학제 간 연구는 인간 행동과 인공 지능의 교차점에서 예상치 못한 심리적 현상을 발견했습니다.
협상 게임을 하도록 AI를 훈련시키고 있다는 말을 들었을 때, 참가자들은 더 공정하게 보이기 위해 자신의 행동을 적극적으로 조정했으며, 이는 실제 AI 개발자에게 잠재적으로 중요한 영향을 미칠 수 있는 충동이었습니다.
"참가자들은 공정성을 위해 AI를 훈련시키려는 동기를 가지고 있는 것으로 보였는데, 이는 고무적이지만, 다른 사람들은 다른 의제를 가지고 있을 수 있습니다"라고 컴퓨터 및 데이터 과학 학부의 박사 과정 학생이자 연구의 수석 저자인 Lauren Treiman은 말했습니다. "개발자들은 사람들이 AI를 훈련시키는 데 사용될 것이라는 것을 알게 될 때 의도적으로 행동을 바꿀 것이라는 것을 알아야 합니다."
이 연구는 미국 국립과학원회보에 게재되었습니다. 공동 저자는 예술 및 과학 분야의 심리학 및 뇌 과학 조교수인 Wouter Kool과 McKelvey School of Engineering의 컴퓨터 과학 및 공학 조교수인 Chien-Ju Ho입니다. Kool과 Ho는 Treiman의 대학원 지도교수입니다.
이 연구는 대략 200-300명의 참가자를 대상으로 한 5개의 실험으로 구성되었습니다. 피험자들은 "최후통첩 게임(Ultimatum Game)"을 하도록 요청받았는데, 이 게임은 다른 인간 플레이어나 컴퓨터와 소액의 현금 지불금(단지 1달러에서 6달러)을 협상해야 하는 도전이었습니다. 어떤 경우에는 그들의 결정이 AI 봇에게 게임 방법을 가르치는 데 사용될 것이라는 말을 들었습니다.
AI를 훈련시키고 있다고 생각한 플레이어들은 이러한 공정성으로 인해 몇 달러의 비용이 들더라도 배당금의 공정한 몫을 원할 가능성이 일관되게 더 높았습니다. 흥미롭게도, 이러한 행동 변화는 자신의 결정이 더 이상 AI를 훈련시키는 데 사용되지 않는다는 말을 들은 후에도 지속되었으며, 이는 기술을 형성하는 경험이 의사 결정에 지속적인 영향을 미친다는 것을 시사합니다.
"인지 과학자로서 우리는 습관 형성에 관심이 있습니다"고 쿨은 말했습니다. "이것은 더 이상 요구되지 않을 때에도 행동이 계속되었기 때문에 멋진 예입니다."
하지만 그 행동 이면의 충동은 완전히 명확하지 않습니다. 연구진은 구체적인 동기와 전략에 대해 묻지 않았으며, 쿨은 참가자들이 AI를 더 윤리적으로 만들어야 한다는 강한 의무감을 느끼지 않았을 수 있다고 설명했습니다. 그는 이 실험이 단순히 불공평해 보이는 제안을 거부하는 그들의 자연스러운 성향을 드러냈을 가능성이 있다고 말했습니다.
"그들은 미래의 결과에 대해 정말로 생각하지 않을 수도 있습니다. 그들은 그저 쉬운 길을 택하고 있을 수도 있습니다"라고 그는 말했습니다.
인간의 행동과 머신러닝 알고리즘 간의 관계를 연구하는 컴퓨터 과학자 호(Ho)는 "이 연구는 AI 훈련에서 중요한 인간 요소를 강조합니다. 많은 AI 훈련이 인간의 결정에 기반하고 있습니다. AI 훈련 중 인간의 편향을 고려하지 않으면 그 결과로 발생하는 AI도 편향될 것입니다. 지난 몇 년 동안 우리는 AI 훈련과 배포 간의 이러한 불일치로 인해 많은 문제가 발생하는 것을 목격했습니다"라고 그는 말했습니다.
예를 들어, 일부 안면 인식 소프트웨어는 유색인종을 식별하는 데 덜 정확하다고 Ho는 말했습니다. 그는 "이는 부분적으로 AI를 훈련시키는 데 사용되는 데이터가 편향되어 있고 대표성이 없기 때문"이라고 말했습니다.
Treiman은 현재 AI를 훈련시키는 사람들의 동기와 전략을 더 잘 이해하기 위해 후속 실험을 수행하고 있습니다. "컴퓨터 과학의 심리학적 측면을 고려하는 것은 매우 중요합니다"라고 그녀는 말했습니다.
이상의 기사는 2024년 8월 7일 TechXplore에 게재된 “Humans change their own behavior when training AI”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : Humans change their own behavior when training AI (techxplore.com)
* 추가정보 출처 : The consequences of AI training on human decision-making | PNAS