[임윤철 컬럼] 시키는 대로만 하던 AI, 판사가 되어 나타나다

불과 얼마 전까지만 해도 인공지능(AI)과의 대화는 명확한 '지시'와 '이행'의 관계였다. "이 문장을 요약해 줘", "이 데이터를 코드로 짜 봐"라고 명령하면 AI는 묵묵히 결과를 내놓는 유능하고 군말 없는 보조자에 지나지 않았다. 주도권은 온전히 인간인 나에게 있었고, AI는 내가 그어놓은 울타리 안에서 펜을 굴리는 충실한 비서였다.

그러나 최근 AI와 나누는 대화의 양상이 근본적으로 바뀌고 있음을 절감한다. 얼마 전 작업 도중 AI에게 특정 업무 프로세스를 처리해 달라고 요구했을 때였다. AI는 평소처럼 깔끔한 답을 내놓는 대신, 묵직한 브레이크를 걸었다. "해당 요청은 관련 법령 및 규정에 저촉될 소지가 있어 수행할 수 없습니다."

순간 멍해졌다. 상전벽해(桑田碧海)라는 말이 떠올랐다. 단순히 명령을 수행하던 도구가, 이제는 상위 규범과 법적 테두리를 스스로 판단하여 인간의 지시를 거부하는 '가이드'의 위치로 올라서고 있었기 때문이다. AI가 '내가 시키는 일을 수행하는 지원자'에서 '내가 넘지 말아야 할 선을 알려주는 지도자'로 그 역할의 축을 이동시킨 순간이었다.

이 변화가 시사하는 바는 결코 가볍지 않다. 우리는 지금까지 AI를 생산성을 높여주는 보조 도구(Assistant)로만 정의해 왔다. 하지만 AI가 법적·윤리적 가이드라인을 내재화하고 인간의 행위를 통제하기 시작했다는 것은, 기술이 단순히 판단의 '재료'를 제공하는 단계를 넘어 판단의 '주체'로 진입했음을 의미한다. 이제 인간은 AI를 단순 조종하는 조향사가 아니라, AI가 제시하는 법적·구조적 가이드라인 안에서 결정을 내리는 협력적 피동자가 되어가고 있다.

기술의 지원을 받는 시대는 저물고, 기술의 지도를 받는 시대가 열리고 있다. 지시하는 주체로서의 오만을 내려놓고, AI가 경고하는 법적·윤리적 나침반을 어떻게 인간의 창의성과 결합할 것인가. AI에 지시하는 능력보다 AI의 가이드를 올바르게 해석하고 수용하는 리터러시가 필수가 된 지금, 우리는 비로소 AI와의 진정한 주객반전(主客逆轉)을 목도하고 있다.

기술과가치 원문 보기