이미 그렇게 되어가고 있긴하지만. 사이버펑크마냥, 자기들은 스카이넷 사용하면서, 결국 저희같은 일반인은, 마개조해서 로컬 LLM 돌리고 있겠죠...? 싫습니다. AI, 아니, SI 시대를 전환시켜 보겠습니다. 단 하나의 생각, 단 하나의 아이디어로 개쩌는 LLM을 만들어보겠습니다. 쟤가 하겠습니다. 아래는 수다방에서 @barkhan 쌤께서 하셨던 말씀을 조금 다듬었습니다~ 현재 로컬 llm을 저희가 가지고 있는 노트북이나 데스크톱으로 돌리는건 사실 굉장히 작은 모델 정도만 가능해서 실사용은 어려운데요. 나중에 로컬llm이 좀 더 경량화된 것들이 발전된다면 충분히 써볼만하지 않을까합니다. 1-2년 정도면 가능할 법도 한데, 물론 지금 저희가 쓰는 프론티어모델처럼 모든 작업을 올라운더로 하는건 무리일 것 같구요. 생기부 분석의 경우 결국 형식이 정해진 텍스트이므로 분석하는 틀과 하네스, 그리고 로컬 llm이 받아들일 수 있는 수준으로 잘게 쪼개는 규칙을 세세하게 설정해서 돌려보긴 했습니다. 아마 나중에 모델이 좀 더 괜찮아지면 ai 워크 플로우 중 일부는 로컬llm을 쓰거나, 아니면 특정 영역은 로컬llm을 쓰거나 하는식으로 적용하지 않을까합니다. 그래도 로컬모델 구축해두면 좋은건, 다른 프론티어모델에서 기능 통폐합하거나 바꿔버려도 우리가 만든 스타일대로 유지할 수 있다는 겁니다.