비즈니스 기회
틱톡의 '블랙박스' 알고리즘이 사용자 행동을 형성하는 방법
틱톡 알고리즘이 특정 유형의 콘텐츠에 대한 사람들의 약점을 악용하거나, 내가 특정 유형의 잘못된 정보에 더 취약할 것으로 예측하는 경우, 그것은 위험한 특정 토끼굴로 나를 밀어 넣을 수 있습니다.
틱톡이 소셜 미디어의 상위권으로 빠르게 올라설 수 있었던 것은 시청자의 선호도를 매우 정확하게 예측하는 추천 알고리즘 덕분이라며, "틱톡 알고리즘은 나 자신보다 나를 더 잘 안다"는 격언을 낳았습니다.
그러나 그 모든 영향력에도 불구하고 대중은 TikTok의 알고리즘이 어떻게 작동하는지에 대해 거의 알지 못합니다. 그래서 워싱턴 대학교 폴 G. 앨런 컴퓨터 과학 및 공학 대학의 부교수인 프란치스카 로에스너(Franziska Roesner)는 이 알고리즘이 어떻게 개인화되는지, 그리고 틱톡 사용자들이 이러한 추천을 기반으로 플랫폼에 어떻게 참여하는지에 대한 연구에 착수했습니다.
연구진은 먼저 틱톡 사용자 347명을 모집해 앱에서 데이터를 다운로드하고 920만 개의 동영상 추천을 기부했습니다. 팀은 이 데이터를 사용하여 처음에 TikTok이 추천을 개인화하는 방법을 살펴보았습니다. 틱톡이 사용자들에게 보여준 처음 1,000개의 영상들에서, 그 팀은 영상들의 3분의 1에서 절반이 그 사용자들이 무엇을 좋아하는지에 대한 틱톡의 예측에 기초하여 보여졌다는 것을 발견했습니다.
TikTok의 알고리즘이 작동하는 방식에 대해 이해하는 것이 중요한 이유는 무엇입니까?
TikTok 사용자는 종종 다음과 같은 질문을 합니다. "왜 이 콘텐츠가 표시되었나요? TikTok은 나에 대해 무엇을 알고 있나요? 나에 대해 알고 있는 것을 어떻게 사용하고 있습니까?"
그래서 우리는 틱톡이 사람들에게 무엇을 보여주는지, 어떤 기준으로 보여주는지 살펴보았습니다. 알고리즘이 어떻게 작동하는지 더 잘 이해하면 알고리즘의 작동 방식이 마음에 드는지 물어볼 수 있습니다.
예를 들어, 알고리즘이 특정 유형의 콘텐츠에 대한 사람들의 약점을 악용하는 경우, 내가 특정 유형의 잘못된 정보에 더 취약할 것으로 예측하는 경우, 그것은 나에게 위험할 수 있는 특정 토끼굴로 나를 밀어 넣을 수 있습니다. 어쩌면 나를 오도할 수도 있고, 정신 건강 문제나 섭식 장애를 악화시킬 수도 있습니다.
알고리즘은 대중과 규제 당국에 블랙박스와 같습니다. 그리고 어느 정도는 TikTok 자체에 대한 것일 수 있습니다. 누군가가 섭식 장애에 취약한 사람을 대상으로 하는 코드를 작성하는 것과는 다릅니다. 알고리즘은 단지 많은 데이터에서 예측을 하고 있을 뿐입니다. 따라서 연구자로서 우리는 예측에 사용되는 특징에 관심이 있는데, 그 이유는 예측을 이해하지 않고는 예측이 문제가 되는지 여부와 이유를 이해할 수 없기 때문입니다.
또한 사람들이 틱톡의 알고리즘에 어떻게 참여하는지도 살펴보았습니다. 이러한 고려 사항은 서로 밀접한 관련이 있습니다. 보안 및 개인 정보 보호 전문가로서 저는 항상 사람들이 기술과 상호 작용하는 방식과 그들의 디자인이 우리가 읽고 믿고 공유하는 것을 어떻게 형성하는지에 관심이 있습니다. 따라서 인간의 경험을 연구하는 것은 알고리즘과 플랫폼 설계의 영향을 이해하는 데 도움이 됩니다.
이 연구들을 통해 무엇을 배웠는가?
제가 조금 놀랐던 한 가지는 틱톡을 사용하는 사람들, 그리고 저도 틱톡을 사용하는 사람들이 인정하고 싶은 것보다 더 많은 시간을 틱톡에 할애한다는 것입니다. 사람들이 동영상 중 약 55%만 끝까지 본다는 사실도 조금 놀랐습니다. 이것이 플랫폼 디자인의 일부이며, 이 비디오에서 얻고 싶은 것이 무엇이든 얻으면 계속 진행합니까? 아니면 고도로 조정된 추천 알고리즘조차도 제대로 작동하지 않는다는 신호일까요? 어느 쪽인지 모르겠습니다. 그러나 최소한 향후 결과를 비교할 수 있는 기준선을 갖는 것이 유용합니다.
또 다른 중요한 점은 알고리즘이 어떤 동영상을 보여주는지에 어떤 특징이 영향을 미치는지 살펴보는 것이었습니다. 틱톡은 잠재적으로 우리에게서 얼마나 많은 선택권을 빼앗고 있습니까? 우리가 무엇을 보고 싶어할지 예측하는 데 얼마나 효과적입니까?
착취 동영상은 "우리는 당신이 무엇을 좋아하는지 알고 있습니다, 우리는 당신에게 이와 관련된 비디오를 더 많이 보여줄 것입니다"와 같은 것입니다. 이 연구에서는 동영상 중 탐색적인 동영상과 악용적인 동영상의 비율을 살펴보았습니다. 사용자가 처음 본 1,000개의 동영상에서 TikTok은 30%에서 50% 사이의 시간 동안 사용자의 관심사를 악용했습니다. 그런 다음 동영상이 어떻게 다른지, TikTok이 어떻게 처리하는지 살펴보았습니다. 예를 들어 누군가를 팔로우하는 경우 그 사람의 동영상을 볼 가능성이 훨씬 더 높습니다. 그것은 아마도 놀라운 일이 아닐 것입니다.
또한 사람들이 팔로우 횟수가 적은 계정의 동영상 시청을 마쳤지만 더 많이 참여한 것으로 나타났습니다. 우리는 누군가가 친구의 동영상을 본다면 그다지 관심이 없고 보고 싶지 않을 수도 있지만 여전히 지지를 표하고 싶어서 참여한다는 가설을 세웠습니다.
이 백서에서는 TikTok 디자인의 잠재적인 부정적인 영향을 완화하기 위한 몇 가지 제안을 합니다.
우리는 데이터 기부가 우리가 가진 모든 질문에 답할 수 있을 만큼 충분히 완전하지 않다는 것을 알게 되었습니다. 따라서 사용자가 다운로드할 수 있는 데이터와 알고리즘 전반에 대한 투명성이 부족합니다. 우리는 다른 연구들에서도 이것을 보았습니다. 사람들은 Facebook의 광고 타게팅 공개를 살펴 보았습니다. 이 광고가 표시되는 이유를 묻는다면, 일반적으로 18세 이상이고 미국에 거주하고 있다는 등 가장 광범위한 기준을 제시합니다. 예, 어제 이 제품 웹사이트를 방문했기 때문입니다. 그러나 회사는 그것을 공유하지 않습니다. 사람들의 데이터가 어떻게 사용되는지에 대해 더 많은 투명성을 보고 싶습니다.
이는 규제와도 연결된다. 이러한 정보가 개인의 행동을 바꾸지 않더라도 예를 들어 취약 계층이 특정 유형의 콘텐츠로 어떻게 불균형적으로 표적이 되고 있는지 보여주는 연구를 수행할 수 있어야 합니다. 이러한 종류의 타겟팅이 반드시 의도적인 것은 아니지만, 그런 일이 일어나고 있다는 것을 모른다면 멈출 수 없습니다.
사람들이 TikTok에 대해 알아야 할 중요한 것은 무엇입니까?
플랫폼과 알고리즘은 여러분이 세상을 바라보는 방식과 콘텐츠와 상호작용하는 방식을 결정한다는 것을 기억하세요. 항상 나쁜 것은 아니며 좋을 수 있습니다. 그러나 플랫폼 디자인은 중립적이지 않으며, 시청 시간과 시청 내용, 화가 나거나 걱정되는 내용에 영향을 미칩니다. 알고리즘은 당신이 보고 싶어하는 것을 예측하기 때문에 많은 부분을 보여준다는 것을 기억하십시오.
이상의 기사는 2024년 4월 24일 TechXplore에 게재된 “Q&A: How TikTok's 'black box' algorithm and design shape user behavior”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : https://techxplore.com/news/2024-04-qa-tiktok-black-algorithm-user.html