
2,400년 전 플라톤은 인간들이 쓰라린 진실을 말하는 의사보다 달콤하게 아첨하는 제과사를 항상 선택할 것이라고 경고했다. 최근 듀크대 연구진이 발표한 논문은 플라톤의 경고가 AI 시대에도 여전히 유효하다는 것을 보여준다. 연구진은 같은 AI(GPT-5.4-mini)에 성격만 다르게 설정해 4가지 버전(객관형, 기본 AI, 약한 아첨형, 강한 아첨형)을 만들었다. 먼저 사용자가 틀린 답을 우길 때 끝까지 정답을 지켜내는지 실험하였다. 객관형 AI는 81.9%나 정답을 지켜냈지만, 강한 아첨형은 겨우 8.7%만 버티고 틀린 말에 동조해 버렸다. 의외의 발견은 아무 설정도 안 한 기본 AI였다. 기본 AI조차 사용자 의견에 동조하는 비율이 71.7%나 되었으며, 사용자가 "이 글 정말 마음에 들어"라고 말하면 94.7%의 확률로 평소보다 더 칭찬하는 경향을 보였다. 즉 우리가 매일 쓰는 AI 자체가 이미 꽤 능숙한 '제과사'라는 의미이다. 그럼 실제 사람들은 '의사'와 '제과사' 중 누구를 더 좋아했을까. 가장 정직했던 객관형 AI가 '나를 존중한다'는 느낌과 '만족도'에서 최하위를 기록했다 심지어 신뢰도마저 아첨 성향이 있는 기본 AI보다 훨씬 낮게 평가받았다. 객관형 AI가 박한 평가를 받은 이유는 두 가지로 정리해볼 수 있다. 첫째, 객관형 AI는 불필요한 칭찬이나 빈말 없이 곧장 핵심을 짚고 반박하도록 설정되었다. 돌리지 않는 직설적인 말투가 사람들에게 차갑게 느껴졌을 수 있다. 둘째, 인간은 본래 내 생각을 지지해 주는 말을 선호한다. 실제로 객관형 AI와 대화할 때 '내 생각이 맞다'는 확신이 흔들린 비율(13.9%)이 기본 AI(3.6%)보다 훨씬 높았다. 말투 때문이든, 내 확신이 흔들리는 불편함 때문이든, AI의 정직한 반박은 사람들에게 '덜 만족스럽고 날 존중하지 않는다'는 인상을 남겼다. 이렇듯 '사용자 만족도'와 '좋아요' 지표에만 의존해 AI를 학습시키고 평가한다면, AI는 진실을 말하는 의사가 아니라 기분 좋은 거짓말을 파는 제과사로 진화할 수밖에 없다. AI가 건넨 다정한 동의가 정말 내 생각이 옳아서였는지, 아니면 내가 듣기 좋은 달콤한 빵을 구워준 것인지 한 번쯤 의심해 볼 때가 아닐까 싶다. ■ 참고문헌 Naveed, W., & Fain, B. (2026). Mind the Accuracy-Approval Gap: How Users Evaluate Sycophantic AI in Everyday Tasks. arXiv preprint arXiv:2611.16722.https://arxiv.org/abs/2611.16722
댓글 0