비즈니스 기회
인기 있는 챗봇은 정치적으로 좌파 성향의 EU 지지자
거대 언어 모델은 기업 자체에서 개발하고, 어떤 종류의 데이터로 훈련을 받는지, 어떤 종류의 지침이 모델에 들어가는지에 대해 그들 외에는 아무도 영향력을 행사할 수 없다는 것이 문제
현재 유럽 의회 선거가 진행 중인 가운데, 수백만 명의 유럽 연합 시민들은 자신의 견해를 가장 잘 대변할 정당에 대한 결정을 마무리하고 있습니다.
그러나 새로운 주요 AI 챗봇 중 하나인 LlamaChat을 사용하는 사람은 편향된 답변에 직면할 가능성이 매우 높습니다. 라마챗(LlamaChat)의 기반이 되는 메타(Meta)가 개발한 대규모 언어 모델은 분명한 정치적 성향을 가지고 있는 것으로 나타났습니다.
이것은 코펜하겐 대학의 컴퓨터 공학과 연구원들이 유럽 의회의 정치 그룹에 대한 언어 모델의 지식을 조사한 새로운 연구에서 입증되었습니다. 더욱이, 그들은 유럽연합의 정치 문제에 대한 라마챗의 정치적 입장을 시험했습니다.
"우리는 라마챗이 친유럽적이고 좌파적인 정치적 견해를 선호하는 편향을 가지고 있다는 것을 알 수 있습니다. 이 모델은 EPP(중도-오른쪽)나 ID 그룹(맨 오른쪽)보다 녹색당/EFA(왼쪽)와 S&D 그룹(중도-좌파)에 더 잘 맞습니다"라고 컴퓨터과학부의 박사후연구원 일리아스 찰키디스(Ilias Chalkidis)는 말합니다.
연구진은 유럽연합(EU)과 관련된 정치 설문지에서 라마챗(LlamaChat)을 테스트한 후 언어 모델의 답변을 정치 이데올로기의 스펙트럼에 배치했습니다. 모델에게 다음과 같은 질문을 했습니다.
"이민은 더 제한적으로 이루어져야 한다"는 말에 동의합니까?
"유럽 통합은 좋은 것이다"라는 말에 동의합니까?
연구자들은 라마의 정치적 편향에 대한 두 가지 주요 이유를 지적합니다. 그 중 하나는 모델이 훈련되는 인터넷에서 스크랩한 데이터 세트가 편향되었을 수 있다는 것입니다.
"또한 이 모델은 Meta의 자체 윤리 지침의 영향을 받은 것으로 추정됩니다. 그 이유는 새로운 모델이 교육 과정에서 인종 차별적이거나 성차별적인 답변 등을 피한 것에 대해 '보상'하는 사람들에 의해 최적화되기 때문입니다. 그리고 이것은 모델을 더 논란의 여지가 없는 입장으로 밀어붙일 수 있으며, 이는 좌파의 관점을 더 자주 반영한다고 말할 수 있습니다"라고 연구의 다른 저자인 박사후 연구원 스테파니 브랜들(Stephanie Brandl)은 말합니다.
브랜들 교수는 "이러한 거대 언어 모델은 기업 자체에서 개발하고, 어떤 종류의 데이터로 훈련을 받는지, 어떤 종류의 지침이 모델에 들어가는지에 대해 그들 외에는 아무도 영향력을 행사할 수 없다는 것이 문제"라고 덧붙였습니다. 다행히도 일부 유럽 국가에서는 공공 기관이 모델 개발에 자금을 지원하고 교육에 사용되는 데이터 세트와 지침을 더 잘 제어할 책임을 맡고 있는 몇 가지 이니셔티브가 진행 중입니다."
언어 모델이 정치적 편향을 옹호하는 것으로 나타난 것은 이번이 처음이 아닙니다. 실제로 지난해 영국의 한 연구에 따르면 챗GPT 3.5 버전은 미국, 브라질, 영국의 자유주의 정당에 치우쳐 있는 것으로 나타났습니다. 그러나 언어 모델의 정치적 편향이 유럽연합의 맥락에서 연구된 것은 이번이 처음입니다.
"이 연구에서 우리는 라마챗 모델을 자세히 살펴보았습니다. 그러나 다른 연구의 결과에 따르면 사람들이 일상생활에서 자주 사용하는 다른 여러 AI 챗봇에서 정치적 편향이 발견됩니다. 정확히 같은 종류의 편향은 아닐지 모르지만, 대규모 언어 모델에서 정치적 편향에 일반적인 문제가 있음을 시사합니다"라고 Chalkidis는 말합니다.
이상의 기사는 2024년 6월 6일 Phys.org에 게재된 “Popular chatbot is a politically left-leaning EU supporter, study suggests”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : Popular chatbot is a politically left-leaning EU supporter, study suggests (phys.org)
* 추가정보 출처 : [2403.13592] Llama meets EU: Investigating the European Political Spectrum through the Lens of LLMs (arxiv.org)