<제58화> 화상회의의 임원들은 전부 가짜였다 — 신뢰 설계자라는 직업

보이스피싱을 걱정해 부모님 휴대폰에 앱을 깔아 드리고, 회사는 송금 전에 이중 확인 절차를 둡니다. 눈과 귀로 확인한 것조차 믿기 어려운 시대가 오고 있기 때문입니다. 그 시대가 이미 도착했음을 알린 사건 하나로 가 보겠습니다. 2024년 초, 홍콩입니다.

다국적 기업 홍콩 지사의 재무 담당 직원이 영국 본사의 최고재무책임자에게서 메일을 받습니다. 극비 거래이니 조용히 처리하라는 지시입니다. 미심쩍었던 직원은 화상회의를 요청했고, 회의가 열리자 안심했습니다. 화면 속에는 낯익은 최고재무책임자와 여러 동료 임원이 앉아 있었고, 목소리도 말투도 평소 그대로였으니까요. 회의는 서둘러 끝났고, 임원들은 곧바로 메신저로 송금 지시를 이어갔습니다. 직원은 지시에 따라 열다섯 차례에 걸쳐 우리 돈 340억 원가량을 송금했습니다. 그리고 뒤늦게 본사에 확인하고서야 알았습니다. 그 회의에 진짜 사람은 자신뿐이었다는 것을. 화면 속 임원들은 전원, 공개된 영상과 음성으로 만들어진 AI 딥페이크였습니다.

방금 보신 장면은 홍콩 경찰의 발표로 세상에 알려진 실제 사건을 재구성한 것입니다. 돈은 여러 계좌로 흩어진 뒤였고, 경찰은 이를 임원 전원이 위조된 최초급의 딥페이크 사기로 발표했습니다. 이 시리즈를 처음부터 보신 분이라면 낯익은 구도일 겁니다. 신뢰가 흔들릴 때마다 인류는 신뢰를 만드는 장치와 함께 그것을 다루는 직업을 발명해 왔습니다. 리디아의 사자 도장 곁에는 금의 순도를 가리는 시금사가 있었고, 로이즈의 커피하우스에서는 위험에 값을 매기는 보험계리사가 태어났으며, 복식부기 곁에는 회계감사인이, 미쉐린의 별 뒤에는 익명의 심사원이 있었습니다. 기술이 새 시장을 열면, 그 시장의 신뢰를 지키는 새 직업이 반드시 따라왔던 것입니다. 지금도 같은 일이 벌어지고 있습니다. 2024년 유럽연합은 세계 최초의 포괄적 AI 법을 통과시켜 고위험 AI에 적합성 평가를 의무화했고, 기업들은 AI의 허점을 일부러 공격해 보는 레드팀과 AI의 판단을 감사하는 전문가를 앞다투어 뽑고 있습니다. 딥페이크를 가려내는 검증 기술, AI가 만든 콘텐츠에 붙이는 출처 표시까지, 신뢰 산업이라 부를 만한 시장이 통째로 자라는 중입니다. 우리나라도 AI 안전연구소를 출범시키며 이 흐름에 합류했습니다.

자, 오늘의 결론입니다. 기술은 세상의 장면과 장면을 바꿉니다. 눈으로 보고 귀로 들으면 믿을 수 있던 장면은, 본 것과 들은 것부터 검증해야 하는 장면으로 바뀌었습니다. 그러나 역사가 보여주듯 이것은 종말이 아니라 시장의 개장입니다. 신뢰가 희소해질수록 신뢰의 값은 오르고, 신뢰를 설계하고 검증하고 보증하는 사람의 몸값도 함께 오릅니다. 4,000년 전 시금사부터 오늘의 AI 감사인까지, 신뢰 직업은 언제나 새 기술의 그림자에서 태어나 가장 오래 살아남는 직업이었습니다. "너는 뭐 먹고 살거니?"의 쉰여덟 번째 힌트는 이것, 모두가 AI로 무언가를 만들 때 그것을 믿어도 되는지 답해주는 사람이 되라는 것입니다. 철이네 오이마켓이 다음 장면으로 안내하겠습니다.

사진: European Parliament, CC BY 2.0, via Wikimedia Commons