`ai-engineering-from-scratch`, AI 엔지니어링 435개 레슨 커리큘럼

// related

• #0001

  #0001기타r/MachineLearning그저께

  문서 QA, 비전 LLM보다 OCR이 여전히 우세

  Vision LLMs vs. OCR for PDF Q&A: OCR Still Wins on Cost and Accuracy

  60radar

  차트, 표가 많은 PDF에서 QA 구현 시, 파일을 통째로 비전 LLM에 넣는 방식은 정확도와 비용 모두 OCR 기반 파이프라인에 밀렸습니다. 아직은 OCR이 더 안정적이고 효율적인 선택지입니다.

  • —네이티브 비전 LLM 접근은 쿼리당 $0.2552로 가장 비쌌지만, 정확도는 52.0%로 6개 방식 중 5위에 그쳤습니다.
  • —특히 비전 LLM의 강점으로 꼽히던 차트·표 페이지에서 오히려 성능이 저하됐고, 레이아웃을 분석하는 프리미엄 OCR이 더 나은 결과를 보였습니다.
  • —비전 LLM은 특정 PDF 파일에서 7%의 영구적 실패율을 기록한 반면, OCR 파이프라인은 재시도 후 실패율 0%를 달성해 안정성이 더 높았습니다.

  출처: www.reddit.com/r/MachineLearning/comments/1tm0cqg/vision원문 보기 →
• #0002

  #0002기타GeekNews그저께

  `Electrobun 2.0`, Rust 재작성으로 `Bun`에서 분리 예정

  `Electrobun 2.0` to Split from `Bun` After Rust Rewrite

  40radar

  Electrobun데스크톱 앱 프레임워크 — 웹 기술로 네이티브 앱 패키징

  데스크톱 앱 런타임 의존 구조가 Bun 중심에서 멀어진다. Electron 대안을 검토 중이면 추적할 만하지만, 당장 갈아탈 신호는 아님.

  • —Electrobun 2.0은 Rust 재작성과 함께 Bun 의존을 낮춘다. 런타임 배포·업데이트 구조가 바뀔 가능성이 큼.
  • —분리 판단에는 Anthropic의 인간 리뷰, 단계적 롤아웃, 안정화 과정이 충분하지 않다는 평가가 들어갔다.
  • —Electron 대체 스택을 고르는 중이면 체크할 뉴스. 프로덕션 도입은 마이그레이션 문서와 안정화 이후가 맞다.

  출처: news.hada.io/topic?id=29815원문 보기 →
• #0003

  #0003기타GeekNews그저께

  `mimalloc`, 코드 수정 없이 바꾸는 고성능 `malloc` 대체재

  `mimalloc`: Microsoft's High-Performance Drop-In `malloc` Replacement

  40radar

  mimalloc메모리 할당자 — `malloc` 드롭인 교체로 성능 개선

  네이티브 워크로드에서 할당자만 바꿔 처리량과 메모리 사용량을 동시에 건드릴 수 있다. 서버 비용이나 지연이 할당 병목이면 테스트할 만함.

  • —mimalloc은 malloc 드롭인 교체형이라 기존 프로그램에 코드 수정 없이 적용 가능하다.
  • —비교 수치가 꽤 공격적이다. tcmalloc 대비 13%, jemalloc 대비 2.5배 이상 빠르다고 제시됨.
  • —한 벤치마크 1등보다 다양한 워크로드에서 꾸준한 성능을 강조한다. 혼합 트래픽 서버에 더 맞는 주장.
  • —Next.js·Supabase 중심 앱에는 직접성 낮다. Rust/Go/C++ 확장, 이미지 처리, 검색 엔진 같은 네이티브 병목에서 후보가 된다.

  출처: news.hada.io/topic?id=29812원문 보기 →