1
AI 코딩 워크플로우
로컬 LLM으로 토큰 걱정 없는 챗봇 만들기
왜 중요한가
한량의 로컬 챗봇 구상에 클라우드/MD와 춤추는 니니즈가 비용·성능 현실을 짚어줬다.
깊이 보기
15:39 한량이 "AI를 배우고는 싶은데 막막하다"며 "skill agent rag 헤르메스 오픈 클로 n8n mcp 멀티모달"까지 나열하며 순서를 물었다.
- 클라우드/MD는 "일단 본인이 AI 사용에 대한 Why, How, So What을 나름대로 정의해보세요... 프롬프트 - 컨텍스트 - 하네스 - (루프) 엔지니어링의 개념에 대해서 이해하시면 좋을 것 같다"(15:47)고 조언했다.
- 한량은 이후 "로컬로 챗지피티같은거만들어서 모바일이나태블릿에서도 토큰걱정없이사용하게만들고싶어요"(15:59), "뉴스나 핫클립 받아조고싶다"(16:00)고 구체화했다.
- 춤추는 니니즈가 로컬 모델 경험을 묻자 한량은 "Vram 32로 올라마로 만져보긴했어요, Qwen3.6 32b짜리"(16:01)라 답했다.
- 클라우드/MD는 "로컬 llm으로 챗지피티 성능 나오게 하려면 돈이 많이 들기는 합니다"(16:03)라 짚었고, 춤추는 니니즈는 자신도 로컬을 돌려봤지만 "성능이 많이 모자라서" "포기했다"며 "이정도 자동화는 유튜브나 블로그 글같은거 보고 직접 해보시는게 도움이 많이 된다, 강의 듣는 것 보다 공부가 많이 되더라"(16:03-04)고 권했다.