llama.cpp 1.0, API 호환성 기준을 세웠네요
11월 13일 llama.cpp 팀이 llama.cpp와 텐서 연산 라이브러리 ggml의 1.0.0을 발표했습니다. 로컬에서 모델을 돌리는 도구로 익숙한 프로젝트인데, 이번 발표는 새 모델의 성능보다 이를 가져다 쓰는 프로그램과의 호환성에 초점이 있습니다.
앞으로 공개 C API에 호환되지 않는 변경이 생기면 주 버전 번호를 올린다고 합니다. 기존과 호환되는 기능·백엔드·모델 지원 추가는 부 버전, API 변경 없는 버그 수정은 패치 번호로 구분합니다. API와 ABI의 비호환 변경을 주 버전으로 드러내겠다는 설명도 있습니다. 1.0이 됐다고 앞으로 변경이 없다는 뜻은 아닙니다.
국내에서도 로컬 AI 도구를 직접 만들거나 기존 앱에 추론 기능을 붙이는 분들께 반가운 기준 같습니다. 예를 들어 모델 실행 라이브러리를 업데이트할 때, 버전 번호부터 보고 연동 코드를 다시 살펴볼 범위를 가늠할 수 있겠네요. 실제 배포 전 모델 로딩과 출력 검증은 여전히 필요하겠지만, 업데이트 계획을 세우기는 조금 수월해질 듯합니다.