특가
← 이전 글
다음 글 →

게시글 상세

↔

화면을 좌우로 스와이프하여 다음/이전 글로 넘겨보세요

📰
이슈
- · 약 1분 분량 ·
0
|

제 로컬 LLM 글에 댓글들을 보면

로컬만으로는 안된다는 댓이 자주 보입니다 당연히 안되죠.. 제가 로컬 LLM 을 구축하려는 이유는 오픈 AI 비용을 줄이면서 반자동화가 목적입니다 아직 API와 CODEX 안써보신분들께 짧게 설명드리자면 Codex 1. 코딩을 실제 수행하는 전문 AI 에이전트로 코드 작성·수정·테스트·리뷰까지 맡길 수 있습니다. 2. ChatGPT 계정으로 로그인하면 Plus에 포함된 Codex 사용량을 먼저 사용할 수 있고, 한도를 넘으면 추가 크레딧 등이 필요할 수 있습니다. 3. Z가 없다면 긴 앱 개발·반복 수정·테스트를 Codex가 많이 담당하므로 Codex 사용량을 많이 소비할 수 있습니다. 4. Z가 있으면 로컬 Coder가 24/7 대부분의 코딩·테스트·오류수정을 처리하고, Codex는 어려운 문제·코드리뷰·최종검증에만 투입할 수 있습니다. 5. 따라서 Z는 Codex 자체 가격을 낮추는 게 아니라 유료/제한된 Codex 호출량을 크게 줄여 전체 비용을 절감하는 역할입니다. API 1. API는 Z가 Sol/Astra 같은 외부 AI를 사람 없이 자동 호출하는 통로입니다. 2. Plus와 별도 과금이며, 기본적으로 입력·출력 토큰 사용량에 따라 비용이 발생합니다. 3. Z가 정상 작업의 대부분을 로컬에서 처리하면 API에는 실패·불확실·중요 검토만 보내므로 호출량 자체가 감소합니다. 4. 즉 로컬 처리 → 검사 → 필요할 때 Sol → 정말 어려울 때 Astra 순으로 비용을 단계적으로 억제합니다. 5. Z의 경제적 의미는 Codex/API를 대체하는 게 아니라, 비싼 외부 AI가 꼭 필요한 순간에만 사용하게 만드는 것입니다. 이게 반님 시스템에서 Z를 두는 중요한 경제적 이유 중 하나가 맞습니다. . . Z는 제 로컬 LLM 머신. 특히 codex 작업은 비용발생 조건이 엄격해서 프로요금제를 구독해도 계속 크레딧 충전해야합니다 대충 보니 9월에만 프로 구독요금 포함 40만원 넘게 들어갔네요 이 비용을 줄이기위해 로컬 llm을 쓰는거라.. 로컬 세팅 최작화만 잘해두면 구독요금은 플러스요금제로 내릴수있고 codex 작업에 드는 비용은 거의 제로. 자동화로 필요시에만 API 호출 후 고급 모델 자동 적용. 월 40만원으로 안되던것을 10만원 내외로 되게끔 만드는 데 의미가 있을듯 합니다 ㄷㄷ

💬

댓글

0개

댓글을 작성하려면 회원 로그인이 필요합니다.

댓글을 불러오는 중...
🏠 목록으로