비즈니스 기회
AI에 대한 신뢰는 도덕적 문제 그 이상
AI의 잠재력은 엄청나지만, AI 시스템과 이를 만드는 사람들이 조직과
사회 내에서 신뢰를 얻고 유지할 수 있을 때만 실현될 것입니다.
AI의 미래는 AI에 달려 있습니다.
AI의 경제적 잠재력은 논란의 여지가 없지만, AI 프로젝트의 무려 87%가 성공하지 못하는 등 조직에서 대부분 실현하지 못하고 있습니다.
어떤 사람들은 이것을 기술 문제라고 생각하고, 다른 사람들은 비즈니스 문제, 문화 문제 또는 산업 문제라고 생각하지만, 최근의 증거는 이것이 신뢰의 문제라는 것을 보여줍니다.
최근 연구에 따르면 최고 경영진의 약 3분의 2가 AI에 대한 신뢰가 수익, 경쟁력 및 고객 성공을 촉진한다고 말합니다.
신뢰는 AI와 관련하여 풀기 어려운 단어입니다. AI 시스템을 신뢰할 수 있습니까? 만약 그렇다면, 어떻게? 우리는 인간을 즉각적으로 신뢰하지 않으며, AI 시스템을 즉각적으로 신뢰할 가능성은 더욱 낮습니다.
그러나 AI에 대한 신뢰 부족은 경제적 잠재력을 저해하고 있으며, AI 시스템에 대한 신뢰 구축을 위한 많은 권장 사항은 너무 추상적이거나 광범위하여 실용적이지 않다는 비판을 받고 있습니다.
실용화에 초점을 맞춘 새로운 'AI 신뢰 방정식'이 필요한 시점입니다.
AI 신뢰 방정식
사람들 사이의 신뢰를 구축하기 위한 개념인 신뢰 방정식은 David Maister, Charles Green 및 Robert Galford가 The Trusted Advisor에서 처음 제안했습니다. 방정식은 신뢰 = 신용도 + 신뢰성 + 친밀감을 자기 지향으로 나눈 값입니다.
언뜻 보기에는 이것이 인간 간의 신뢰를 구축하는 데 이상적인 방정식인 이유는 분명하지만 인간과 기계 간의 신뢰 구축으로 해석되지는 않습니다.
인간과 기계 간의 신뢰 구축을 위한 새로운 AI 신뢰 방정식은 신뢰 = 보안 + 윤리 + 정확성을 제어로 나눈 값입니다.
보안은 신뢰로 가는 길의 첫 번째 단계이며, 다른 곳에서 잘 요약된 몇 가지 핵심 원칙으로 구성됩니다. 인간과 기계 간의 신뢰 구축을 위해서는 "이 AI 시스템과 정보를 공유하면 내 정보가 안전할까?"라는 질문으로 귀결됩니다.
윤리는 기술적인 문제라기보다는 도덕적인 문제이기 때문에 보안보다 더 복잡합니다. AI 시스템에 투자하기 전에 리더는 다음 사항을 고려해야 합니다.
1. ChatGPT를 만드는 케냐 노동자와 같이 이 모델을 만드는 사람들은 어떻게 대우받았습니까? 내가/우리가 그것으로 솔루션을 구축하여 지원하는 것이 편안하다고 느끼는 것입니까?
2. 모델을 설명할 수 있습니까? 유해한 출력이 생성되면 그 이유를 이해할 수 있습니까? 그리고 그것에 대해 내가 할 수있는 일이 있습니까 (컨트롤 참조)?
3. 모델에 암시적 또는 명시적 편향이 있습니까? 이는 조이 부올람위니(Joy Buolamwini)와 팀니트 게브루(Timnit Gebru)의 젠더 셰이드(Gender Shades) 연구와 구글이 최근 모델에서 편향을 제거하려는 시도로 인해 비역사적 편향을 만들어낸 것과 같이 철저하게 문서화된 문제입니다.
4. 이 AI 시스템의 비즈니스 모델은 무엇입니까? 정보와 평생의 노력으로 모델을 훈련시킨 사람들은 자신의 작업을 기반으로 구축된 모델이 수익을 창출할 때 보상을 받고 있는가?
5. 이 AI 시스템을 만든 회사의 명시된 가치는 무엇이며, 회사와 경영진의 행동은 이러한 가치를 얼마나 잘 추적합니까? 예를 들어, OpenAI가 최근 그녀의 동의 없이 Scarlett Johansson의 목소리를 모방하기로 한 선택은 OpenAI의 명시된 가치와 ChatGPT에 그녀의 음성 사용을 거부하기로 한 Scarlett Johansson의 선택을 무시하기로 한 Altman의 결정 사이에 상당한 차이가 있음을 보여줍니다.
정확성은 AI 시스템이 작업 흐름 전반에 걸쳐 다양한 질문에 대한 정확한 답변을 얼마나 안정적으로 제공하는지로 정의할 수 있습니다. "이 AI에게 내 컨텍스트에 따라 질문을 할 때 그 답변은 얼마나 유용한가?"로 단순화할 수 있습니다. 대답은 1) 모델의 정교함 및 2) 학습된 데이터와 직접적으로 얽혀 있습니다.
통제는 AI를 신뢰하는 것에 대한 대화의 핵심이며, "이 AI 시스템이 내가 원하는 대로 할 것인가, 아니면 실수를 할 것인가?"라는 가장 전술적인 질문부터 우리 시대의 가장 시급한 질문 중 하나인 "지능형 시스템에 대한 통제력을 잃을 것인가"에 이르기까지 다양합니다. 두 경우 모두 AI 시스템의 행동, 결정 및 출력을 제어할 수 있는 능력은 이를 신뢰하고 구현한다는 개념을 뒷받침합니다.
AI 신뢰 방정식을 사용하기 위한 5단계
1. (시스템이 유용한지 여부 판단) AI 플랫폼이 신뢰할 수 있는지 여부를 조사하는 데 시간과 리소스를 투자하기 전에 조직은 플랫폼이 더 많은 가치를 창출하는 데 유용한지 여부를 결정하는 것이 좋습니다.
2. (플랫폼이 안전한지 조사) 데이터를 플랫폼에 로드하면 어떻게 되나요? 방화벽을 벗어나는 정보가 있습니까? 보안 팀과 긴밀히 협력하거나 보안 고문을 고용하는 것은 AI 시스템의 보안에 의존할 수 있도록 하는 데 매우 중요합니다.
3. (윤리적 임계값을 설정하고 이에 따라 모든 시스템과 조직을 평가하십시오) 투자하는 모델이 설명 가능해야 하는 경우 허용 가능한 상한 및 하한과 함께 조직 전체의 설명 가능성에 대한 공통적이고 경험적인 정의를 절대적으로 정확하게 정의하고 이러한 한계에 대해 제안된 시스템을 측정합니다. 조직이 AI 활용과 관련하여 타협할 수 없다고 결정한 모든 윤리적 원칙에 대해서도 동일한 작업을 수행합니다.
4. (정확도 목표를 정의하고 벗어나지 마십시오) 인간 작업의 전조이기 때문에 성능이 좋지 않은 시스템을 채택하고 싶을 수 있습니다. 그러나 조직에서 허용가능한 것으로 정의한 정확도 목표보다 낮은 성과를 내면 작업 결과의 품질이 낮아지고 직원들에게 더 큰 부담이 될 위험이 있습니다. 낮은 정확도는 모델 문제 또는 데이터 문제인 경우가 많으며, 둘 다 적절한 수준의 투자와 집중으로 해결할 수 있습니다.
5. (조직에 필요한 제어 수준과 정의 방법 결정) 의사 결정자와 운영자가 AI 시스템에 대해 얼마나 많은 통제권을 갖기를 원하는지에 따라 완전 자율 시스템, 반자율, AI 기반 시스템을 원하는지 또는 AI 시스템과 제어를 공유하기 위한 조직의 허용 수준이 현재 AI 시스템이 도달할 수 있는 것보다 더 높은 기준인지 여부가 결정됩니다.
AI 시대에는 모범 사례나 빠른 성공을 찾는 것이 쉬울 수 있지만, 사실 아직 아무도 이 모든 것을 완전히 파악하지 못했으며, 알아낼 때쯤이면 더 이상 여러분과 여러분의 조직을 차별화하지 못할 것입니다.
따라서 완벽한 솔루션을 기다리거나 다른 사람들이 설정한 트렌드를 따르기보다는 주도권을 잡으십시오. 조직 내에서 챔피언 및 스폰서 팀을 구성하고, AI 신뢰 방정식을 특정 요구 사항에 맞게 조정하고, 이에 대해 AI 시스템 평가를 시작합니다. 이러한 노력에 대한 보상은 경제적 측면뿐만 아니라 기술의 미래와 사회에서의 역할의 토대가 됩니다.
일부 기술 회사는 시장의 힘이 이러한 방향으로 움직이고 있으며 Salesforce의 Einstein Trust Layer와 같이 AI 시스템의 작동 방식에 대한 올바른 약속, 제어 및 가시성을 개발하기 위해 노력하고 있으며 다른 회사는 모든 수준의 가시성이 경쟁 우위를 양도할 것이라고 주장하고 있습니다. 귀하의 조직은 AI 시스템의 결과뿐만 아니라 이를 구축하고 유지 관리하는 조직 모두에 대해 어느 정도의 신뢰를 원하는지 결정해야 합니다.
AI의 잠재력은 엄청나지만, AI 시스템과 이를 만드는 사람들이 조직과 사회 내에서 신뢰를 얻고 유지할 수 있을 때만 실현될 것입니다. AI의 미래는 AI에 달려 있습니다.
이상의 기사는 2024년 5월 27일 VentureBeat에 게재된 “Trust in AI is more than a moral problem”제목의 기사 내용을 편집하여 작성하였습니다.
* 원문정보 출처 : Trust in AI is more than a moral problem | VentureBeat