기계가 똑똑해질수록 사람의 역할은 오히려 더 중요해진다. 1983년 리잔 베인브리지의 논문 <자동화의 아이러니>의 핵심 아이디어다. 저자는 자동화가 사람의 일을 대신하면서도, 정작 사람에게 더 어려운 역할을 남기는 문제를 지적하였다. 40년 전 논문이지만 AI가 우리의 일을 대신해 주는 지금에도 인사이트를 준다. 주요 내용은 이러하다. (1) 쉬운 일은 기계가 맡고, 어려운 일은 사람에게 남겨진다. 정해진 절차로 처리할 수 있는 일은 자동화할 수 있다. 하지만 예상하지 못한 복잡한 상황은 여전히 사람이 해결해야 한다. 자동화가 될수록 사람이 맡은 일은 오히려 어려워진다. (2) 연습할 기회는 줄어드는데, 위기에는 숙련된 판단을 요구한다. 평소 기계가 일을 처리하면 사람은 직접 해볼 기회가 줄어든다. 그러다 기계가 해결하지 못하는 문제가 생기면 가장 어려운 순간에 숙련된 판단을 요구받는다. (3) 상황을 이해할 시간도 없이 통제권을 넘겨받는다. 기계가 처리하던 일을 갑자기 넘겨받은 사람은 무슨 일이 있었는지부터 파악해야 한다. 벤치에 앉아 있던 선수에게 준비할 틈도 없이 들어가 결정적인 역할을 하라고 요구하는 것과 비슷하다. (4) 사람보다 잘한다고 맡긴 기계를, 다시 사람이 감시해야 한다. 별다른 변화가 없는 화면을 오래 지켜보며 드물게 발생하는 이상을 찾아내는 일은 쉽지 않다. 특히 사람이 처리하기 어려운 일을 기계가 맡았다면, 그 결과가 맞는지 검증하는 것도 어렵다. AI가 쓴 글에서 할루시네이션을 검증하는 지금의 모습과 같다. (5) 쓰기 편한 화면이 깊은 이해까지 보장하지는 않는다. 정보가 보기 좋게 정리되어 있으면 빠르게 반응하기는 편하다. 하지만 예상하지 못한 문제가 생기면 시스템이 어떻게 작동하는지 이해해야 한다. 저자는 사람의 개입이 필요 없는 시스템일수록 오히려 사람의 훈련에 더 많이 투자해야 할 수 있다고 말한다. 40년 전의 기술에 대한 우려는 현재진행형이다. 자동화가 발달할수록 결과의 근거를 따져보고 직접 문제를 해결하는 경험을 의식적으로 마련해야 한다. ■ 참고 문헌 Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779.
doi.org · 원문 보기뒤로읽기 전용
뒤로
[고독한 연구방 #15] 자동화의 아이러니
26
댓글 0