도름스 앱 매뉴얼 답변 봇을 RAG로 구축하는 방안 논의

앱 제작자에게 사용법을 반복해서 묻는 이용자가 많아, 앱 매뉴얼을 학습한 안내 봇을 RAG로 구축하자는 제안이 나왔다. 선생님들이 앱을 올릴 때 상세 설명 외에 매뉴얼 문서(html·txt·md 등)를 선택적으로 추가 등록하면, 봇이 이를 학습해 안내해주는 방식이다. 다만 제대로 된 RAG를 만들려면 LLM API 키 연동이 필요하고 그만큼 운영 비용이 든다는 지적이 있었고, 공개 데이터만으로 답하는 용도라면 데이터 보존 정책(ZDR) 걱정 없이도 저렴하고 성능 좋은 모델을 쓰면 비용 부담이 크지 않을 거라는 의견이 이어졌다.

선생님들의 답 1개