local-llm

발행일 2026. 9. 4.

터미널벤치 70.2%로 표에 적고, 같은 글 본문에서 66.9%로 내렸다. 모델이 깃허브에서 벤치마크 정답을 찾아낸 시도 24건을 만든 쪽이 스스로 걷어낸 결과다. K2 호라이즌 여섯 종의 공개 범위와 실제 성적을 발표문 원문과 결과표로 확인했다.

발행일 2026. 8. 31.

GLM-5.3과 GLM-5.2의 총 파라미터는 753,329,940,480개로 한 개도 다르지 않다. 그런데 익스플로잇 벤치마크는 29점에서 105점으로 3.6배 뛰었다. 실제로 올라온 755.6GB 가중치, 파일 수가 절반으로 줄어든 이유, MIT에서 바뀐 라이선스 조항까지 리포 파일로 직접 대조했다.

발행일 2026. 8. 26.

애플이 오늘 낸 가장 최신 2나노 칩 M6는 통합 메모리가 최대 32GB, 같은 날 나온 M5 Ultra는 512GB다. 16배 차이가 내 컴퓨터에서 AI 모델을 돌리려는 사람에게 무엇을 바꾸는지, 애플 공식 보도자료의 수치만으로 32GB·128GB·512GB 세 단계를 정리했다.

발행일 2026. 8. 23.

엔비디아 공식 NVFP4 양자화가 88k 컨텍스트에서 토큰 약 50%를 뒤집으며 5종 중 꼴찌였다. 같은 모델·같은 가중치인데 어텐션 백엔드와 KV 캐시 설정만 바꿔도 툴 호출이 깨진다. 로짓을 통째로 캡처한 실측으로 본 로컬 추론의 함정과, 오늘 당장 바꿀 설정.

발행일 2026. 8. 20.

오르니스 팀이 2026년 8월 18일 오르니스 1.5를 MIT 라이선스로 공개했다. 눈에 띄는 건 가운데 모델이다. 36B짜리가 11배 큰 397B 모델을 코딩 벤치마크 9개에서 전부 앞섰다. 대신 웹 검색과 긴 추론에서는 여전히 밀린다. 공식 모델 카드와 발표문의 수치로 무엇이 실제로 바뀌었고 무엇이 안 바뀌었는지 정리한다.

발행일 2026. 8. 15.

이틀 전 예고만 있던 Qwen3.8-27B의 가중치가 실제로 올라왔다. Apache-2.0 라이선스, 55.6GB 원본, 17GB 양자화. 벤치표에서 Opus4.6 Max를 넘긴 칸과 밀린 칸을 나누고, 그 표 아래 각주가 무엇을 조건으로 걸고 있는지까지 확인한다.

발행일 2026. 8. 13.

예고만 하고 미뤄지던 Qwen3.8-Max의 가중치가 Hugging Face에 실제로 올라왔다. 2.4T 파라미터 213개 샤드의 실물, 벤치마크가 이긴 항목과 진 항목, 397GB까지 줄여도 450GB RAM이 필요한 이유, 그리고 아무도 안 읽는 라이선스 조건 두 개를 정리한다.

발행일 2026. 8. 11.

메타가 아파치 2.0으로 공개한 30B 오픈웨이트 모델. 공개 벤치마크 7종의 승패, 양자화 구성별 VRAM 요구량, 그리고 RTX 3090 구동설이 1차 출처에 없다는 사실까지 정리한다.