pure 양자화로 모델 전체를 소비자 GPU 메모리에 올리는 선택지가 생겼다. 로컬 에이전트 실험용으론 쓸 만하지만, 품질 손실과 벤치마크 부족은 감수해야 함.
Q4_K_M MTP는 15.4GB, non-MTP는 15.1GB. 비교 대상 GGUF가 16.5-18GB라 16GB 카드에선 차이가 큼.이름-값 쌍을 나열하는 UI는 div 반복보다 <dl>이 더 정확하다. 편의시설, 청구 항목, 스펙 표시에 바로 적용할 수 있는 작은 마크업 습관.
<dl>은 이름-값 쌍 목록을 의미적으로 표현하는 HTML 요소. 용어집 전용 태그가 아니다.<dt>, 값은 <dd>로 나누면 커스텀 구조 없이도 의미가 살아난다.차트, 표가 많은 PDF에서 QA 구현 시, 파일을 통째로 비전 LLM에 넣는 방식은 정확도와 비용 모두 OCR 기반 파이프라인에 밀렸습니다. 아직은 OCR이 더 안정적이고 효율적인 선택지입니다.
비전 LLM 접근은 쿼리당 $0.2552로 가장 비쌌지만, 정확도는 52.0%로 6개 방식 중 5위에 그쳤습니다.비전 LLM의 강점으로 꼽히던 차트·표 페이지에서 오히려 성능이 저하됐고, 레이아웃을 분석하는 프리미엄 OCR이 더 나은 결과를 보였습니다.비전 LLM은 특정 PDF 파일에서 7%의 영구적 실패율을 기록한 반면, OCR 파이프라인은 재시도 후 실패율 0%를 달성해 안정성이 더 높았습니다.데스크톱 앱 런타임 의존 구조가 Bun 중심에서 멀어진다. Electron 대안을 검토 중이면 추적할 만하지만, 당장 갈아탈 신호는 아님.
Electrobun 2.0은 Rust 재작성과 함께 Bun 의존을 낮춘다. 런타임 배포·업데이트 구조가 바뀔 가능성이 큼.