노트북LM을 내 웹앱에 챗봇으로 넣을 수 있나요, 안 되면 무엇으로 대신하나요
이지민 선생님이 물었습니다. 제미나이 노트북(노트북LM)을 자기가 만든 웹앱에 연결해 챗봇처럼 쓰고 싶은데, 링크를 걸어 새 창(노트북 창)을 띄우는 것 말고 다른 방법이 있을까요. 다른 선생님들이 사비로 챗봇을 구축하셨다는 말을 본 것 같은데, 작고 소중한 월급을 아낄 방법이 있을까 해서 여쭤봅니다. 같은 흐름에서 김동욱 선생님도 원하는 그림을 덧붙였습니다. 예산사용지침 같은 규정만 참고해서 답해주는 챗봇을 만들고 싶다, 예를 들어 '20호봉인 선생님의 강사료 얼마야?'라고 물으면 답해주는 것. 답은 네 갈래로 모였습니다. 노트북LM 자체를 웹앱 안에 부르는 것은 왜 막혀 있는지, 학습시킬 분량에 따라 RAG와 프롬프트 중 무엇을 골라야 하는지, 무료 API로 어떻게 대신하는지, 그리고 실제로 규정 챗봇을 만들어 쓰고 있는 사례까지입니다.
선생님들의 답 10개
새 창에서 노트북LM 챗봇을 띄우는 건 되지만, 내가 만든 웹앱 안에 노트북LM 챗봇을 소환하는 건 안 됩니다. 구글도 자사 서비스를 제공하면서 사용자를 자사 플랫폼에 묶어두길 원하니 외부에서 쓰는 걸 막는 거죠. 이 정도 용도라면 그냥 노트북LM 공유나 구글 젬스(Gems)로 구현하는 게 제일 편합니다. 내 서비스에 붙일 게 아니라면 어렵지 않아요. 굳이 챗봇으로 만들려면 비용 문제 때문에 모든 자료를 md, json으로 바꿔 저장하고 챗봇 대화에서 그걸 읽어들이는 방식이 현재로선 최선입니다.
챗봇이 사전에 학습해 두어야 할 학습량이 어느 정도인지에 따라 RAG가 불필요하게 무거운 작업일 수도 있어요. 임베딩이란 게 굉장히 단순 무식한 고노동 작업이라서요. 요즘은 LLM의 컨텍스트가 기본 1M이다 보니 챗봇이 알아야 할 내용이 많지 않다면 그냥 프롬프트로 내용을 던져줘도 충분히 성능이 좋고 유지보수가 수월할 수 있습니다. 클로드에게 학습할 분량을 주고 RAG가 좋을지 그냥 프롬프트로 충분할지 직접 물어보세요. 저도 예전에 RAG로 만들었는데 나중에 보니 그냥 프롬프트가 성능이 더 좋은 경우도 있었습니다. 다만 내용이 방대하면 확실히 RAG가 여전히 유효해요. 정리하면, 컨텍스트가 많지 않다면 사전에 학습해야 할 내용을 json 형식으로 정리해 프롬프트로 통째로 배달시키는 게 오히려 구현이 쉽고 성능이 좋을 수 있고, 내용이 엄청 방대하고 할루시네이션이 절대 있어선 안 되는 무겁고 엄중한 데이터를 다룬다면 RAG입니다. API를 이용한 RAG가 챗봇 탑재의 정답인 건 맞고요.
챗봇 자체는 충분히 가능합니다. 단 제미나이 노트북의 답변을 그대로 가져오는 건 안 되고, 선생님이 만든 웹페이지 내용과 관련해 답변받게 하는 건 됩니다. 그것도 무제한급 무료로 가능해요. 규정 내용을 넣어놓고 답변시키는 챗봇을 만들면 됩니다. 손쉽게는 노트북 링크를 걸면 되는데 안 예뻐지는 게 문제고요. AI API를 연결시켜 챗봇을 시키면 되는데, 특화된 종류별로 무료 API가 엄청 많습니다.
제미나이 노트북을 채팅뷰 링크 복사로 공유하면 그냥 챗봇이 되긴 합니다. 그게 간편하고 가성비도 좋고 누구나 무난하게 쓸 수 있어요. 좀 못생겼다는 게 흠이고요. 궁금해서 해봤는데 구글 사이트에도 임베드는 안 들어가네요.
경기도이시면 경기도 G-ONE AI가 규정 관련해서는 잘 찾아줍니다. 저도 규정 관련해서는 자주 사용하고 있어요.