구글 앱스스크립트에서 제미나이 API를 쓰는데 무료 한도(토큰·요청수)가 자꾸 초과돼요. 어떻게 줄이나요?
"이거 제꺼 제미나이 api 키 넣어서 구글 앱스스크립트로 한번 돌려보고 있는데,,, 자꾸 토큰 초과가 되는 것 같네요. 이럴 땐 어떻게 하는게 좋을까요" / "한 번 질문에 초과과 되진 않았고, 몇 번 좀 수행해봤더니 바로 막히네요" / "질문 하나당 호출 1회, 요약 1회, 검사 1회를 실시하다보니까 무료 요청 횟수를 금방 써버리네요"
선생님들의 답 5개
"파싱해야하는 문서 양이 많거나 아니면 여러 과정을 거쳐서 작동되는 앱인 경우에 그럴 수 있더라구요" / "2.5flash는 지금 지원이 안되는 모델일거에요. 만약 2.5 flash가 박혀있으면 그게 들어가는 과정에서 막힐 수 있구요" / "ai.google.dev 여기에 지금 지원되는 모델목록이 있을거에요" / "llm 모델들이 과거 데이터들 기반으로 답을 내놓다보니까 과거 지원 모델을 끌고 오는 경우들이 많더라구요" / "어떤 프롬프트를 입력해두셨는지 모르겠지만 아마 그정도면 수 회 정도로 끝나지는 않을 것 같아요"
"제미나이 api는 요청할 때 그 안에 있는 양 보다는 요청 횟수에 민감한 것 같았어요" / "예를 들면 1학기 수행평가 OCR을 제미나이로 요청할 때… 이걸 학생 한명당 호출하면 수백회가 될 수 있지만 하나의 파일로 엮어서 보내면 반별 5~6회로 줄어들 수 있는" / "3.6플래시로 저는 사용하는데 이것도 충분히 라이트해서 유료과금영역까지 안 가는 것 같아요"
"OCR은 무조건 이미지 장당 호출 1회로 보더군요. 서술된 양이 많은 큰 이미지건 몇글자 안적힌 작은 사이즈의 이미지건, 장당 1호출" / "3.1 flash lite로 바꿔서 다시 써보세요" / "엄청나게 고난이도의 요구를 하는게 아니면 3.1flash lite로도 왠만한건 다 잘할거예요. 무료제공한도 및 시간당 호출횟수도 넉넉하고" / "저는 355명 답안지를 OMR 광학리딩기 돌리듯이 촵촵촵촵 API한테 넘기니까 시간당 호출횟수 넉넉한 3.1 flash lite 썼던거고, 단시간에 많은 호출 부르는거 아니면 그 상위 모델 쓰셔도 될겁니다" / "3.5flash lite도 요청수 한도가 동일하네요! ... 3.5플래시 라이트도 7월 22일날 무료티어로 전환됐군요" / "무료 LLM 목록 물어봐도 잘못된 정보 알려줘요. 더 웃긴건 제미나이한테 물어봐도 잘못된 제미나이 API 정보를 알려줘요"
"3.1 flash 충분히 좋습니다..! 어지간한 손글씨도 다 인식 잘해줘요" / "개인적으로 쓰시는거면 vertex ai 쪽으로 물려서 크레딧 사용하시면 좋습니다"