`Utilyze`, GPU의 실제 유효 작업률을 보여주는 모니터링 도구

// related

• #0001

  #0001기타GeekNews13시간 전

  `Firefox` 데스크톱 151, `Web Serial API` 지원

  Firefox Desktop 151 Adds `Web Serial API` Support

  60radar

  Web Serial API브라우저 API — JavaScript로 직렬 장치 직접 통신

  브라우저 기반 하드웨어 도구가 Chrome 전용에서 한 발 벗어난다. Web Serial API로 네이티브 브리지 앱 없이 장치 연결 UX를 만들 수 있어 소형 B2B 툴에 바로 써먹을 만함.

  • —Firefox 151 데스크톱부터 호환 직렬 장치와 네이티브 소프트웨어 없이 통신 가능해짐.
  • —Web Serial API는 JavaScript로 직렬 데이터를 읽고 쓰는 표준 API. 마이크로컨트롤러·3D 프린터·전력계가 주요 대상.
  • —설치형 설정 앱을 웹 대시보드로 대체하기 쉬워진다. 장치 온보딩, 진단, 펌웨어 보조 툴에 맞음.
  • —브라우저 지원 범위가 제품 UX의 병목. 모바일·Safari까지 필요한 서비스라면 여전히 대체 경로를 둬야 함.

  출처: news.hada.io/topic?id=29761원문 보기 →
• #0002

  #0002기타r/LocalLLaMA어제

  `ik_llama.cpp`, 12GB VRAM에서 `Qwen3.6 35B A3B` 110 tok/s 근접

  `ik_llama.cpp` pushes `Qwen3.6 35B A3B` near 110 tok/s on 12GB VRAM

  40radar

  ik_llama.cppllama.cpp 포크 — CPU 오프로딩·양자화 최적화 강화

  MTP와 CPU 오프로딩 조합으로 컨슈머 GPU에서도 로컬 MoE가 대화형 속도까지 올라온다. 프라이빗 코딩·배치 작업엔 실험 가치 있음.

  • —같은 IQ4_XS 양자화에서 일반 llama.cpp 평균은 89.76 tok/s, ik_llama.cpp 샘플은 105-110 tok/s대까지 올라감.
  • —환경은 RTX 4070 Super 12GB, Ryzen 7 9700X, 48GB DDR5. VRAM보다 CPU 오프로딩 최적화가 체감 속도를 좌우한다.
  • —실행 옵션은 --ctx-size 131072, q8 KV cache, draft-mtp 조합. 긴 컨텍스트 로컬 추론은 여전히 메모리 세팅 의존도가 큼.
  • —구매 판단용 벤치마크보다는 튜닝 힌트에 가깝다. 커널·양자화·포크 버전 차이로 결과가 크게 흔들릴 수 있음.

  출처: www.reddit.com/r/LocalLLaMA/comments/1tjh7az/110_toks_wi원문 보기 →
• #0003

  #0003기타GeekNews그저께

  `Firefox 148`, `asm.js` 최적화 기본 비활성화

  Firefox 148 Starts Turning Off `asm.js` Optimization

  40radar

  레거시 asm.js 코드는 계속 실행되지만 Firefox에서 빠른 경로를 잃는다. 오래된 웹 게임·연산형 데모를 유지 중이면 WebAssembly 이전만 챙기면 됨.

  • —Firefox 148부터 SpiderMonkey의 asm.js 최적화가 기본 비활성화되고, 관련 코드는 향후 제거 예정.
  • —asm.js는 JavaScript 하위 집합이라 사이트가 바로 깨지진 않는다. 리스크는 실행 실패가 아니라 성능 저하.
  • —신규 프로젝트는 asm.js 타깃을 버리면 된다. 기존 Emscripten 산출물은 WebAssembly 빌드로 갈아타는 쪽이 맞음.

  출처: news.hada.io/topic?id=29732원문 보기 →