Qwen 3.8 27B가 로컬 LLM 커뮤니티에서 압도적인 인기와 성능을 보이며 코딩 벤치마크 상위권을 휩쓸고 있습니다.

Qwen 3.8 27B는 Aider 벤치마크에서 72.9점을 기록해 Gemini 2.5 Pro와 동일한 점수를 냈고, Claude Opus 4(72.0점)와 DeepSeek R1(71.4점)을 앞질렀습니다. Code Arena에서는 9위를 차지했는데, 같은 체급인 Gemma 4 31B는 80위에 머물렀습니다. 한 사용자는 이 모델로 C99 컴파일러를 자율적으로 코딩하게 하는 실험을 진행 중이며, 플래너·코더·디버거·검증자 등 서브에이전트로 구성된 커스텀 하니스를 통해 몇 주간 지속적인 개발을 이어갔습니다. RTX 5070 Ti Mobile(12GB VRAM) 환경에서도 UD_Q4_K_XL 양자화로 초당 9~11토큰 디코딩, 400~550토큰 프리필 속도를 내며 실사용 가능한 성능을 보였습니다. Hugging Face에서는 출시 한 달도 안 돼 좋아요 수가 다음 4개 모델 합산을 뛰어넘으며 QwQ-32B의 자리를 대체했습니다.

소비자용 GPU 한두 장으로도 프론티어 모델급 코딩 성능을 로컬에서 구현할 수 있음을 보여주는 사례입니다. 하니스와 컨텍스트 관리 기법의 발전이 모델 자체의 성능 향상만큼 실사용 체감에 큰 영향을 미친다는 점도 확인됐습니다.

Hugging Face가 130억 달러(약 17조 원) 규모로 빅테크에 인수될 수 있다는 소식이 알려지며 오픈소스 AI 커뮤니티에 논란이 확산되고 있습니다.

비즈니스 인사이더 보도에 따르면 Hugging Face가 130억 달러 규모로 인수될 가능성이 제기되었습니다. Hugging Face는 오픈소스 AI 모델과 데이터셋을 공유하는 대표적인 플랫폼으로, 수많은 연구자와 개발자들이 모델을 업로드하고 다운로드하는 허브 역할을 해왔습니다. Reddit 커뮤니티 r/LocalLLaMA에서는 이 소식이 알려지자 "누가 Hugging Face를 살 것인가"라는 질문과 함께 인수 이후 오픈 모델 생태계가 어떻게 변할지에 대한 우려가 제기되었습니다. 일부 이용자는 130억 달러라는 가격이 나쁘지 않다는 반응을 보이기도 했습니다. 다만 이번 소식은 공식 발표가 아닌 보도와 추측 수준에 머물러 있는 상황입니다.

Hugging Face는 오픈소스 AI 생태계의 중심축으로, 빅테크에 인수될 경우 모델 공개 정책이나 커뮤니티 운영방식이 바뀔 가능성이 있습니다. 오픈 모델의 자유로운 접근성이 위축될 수 있다는 점에서 개발자 커뮤니티의 관심이 집중되고 있습니다.

AI 안전성 평가 기관 METR이 최신 모델들에 대한 능력 벤치마크 업데이트를 중단한 것으로 보여 커뮤니티에서 의문이 제기되고 있습니다.

레딧 이용자가 METR의 벤치마크 활동이 최근 모델들 이후로 멈춘 것 같다는 문제를 제기했습니다. 작성자는 "16시간 이상 소요되는 과제가 충분하지 않다"는 이유가 현재 모델을 80%, 90%, 99% 정확도 기준으로 평가 하지 못하는 이유가 될 수 없다고 주장했습니다. 즉 기존에 확보된 과제 세트로도 충분히 벤치마크를 진행할 수있는데도 METR이 업데이트를 하지 않고 있다는 지적입니다. 작성자는 METR이 수백만 달러 규모의 투자를 받았다는 점을 언급하며, 이런 상황에서 벤치마크가 멈춘 것은 "게으르다"는 결론 외에는 다른 설명이 떠오르지 않는다고 비판했습니다.

METR은 AI 모델이 수행할 수 있는 작업의 난이도와 소요 시간을 측정해 AI 능력 발전 속도를 추적하는 대표적인 지표를 제공해온 기관입니다. 이 벤치마크가 중단되면 최신 모델들의 실제 능력 향상 정도를 비교할 공신력있는 기준이 사라지게 되어, AI 발전 속도에 대한 커뮤니티의 판단에 혼란을 줄 수 있습니다.

AI가 이미 충분히 유능하고 위험하다는 낙관론자들의 규제 촉구와, AI 효용은 사용자 실력에 좌우된다는 회의론이 레딧에서 정면으로 충돌하고 있습니다.

한 개발자는 리누스 토르발즈가 AI가 리눅스 커널 개발에 유용하다고 언급한 사례와 수학 난제 해결 사례를 근거로, AI가 이미 실무에 충분히 유능하다고 주장합니다. 그는 AI 비판론자들이 이런 전문가 증언을 무시하고 "AI는 실수만 한다"는 입장을 고수하는 것이 오히려 대량 실업이 닥치기 전 필요한 규제 도입을 늦춘다고 우려합니다.

반면 다른 게시글은 AI 효용이 사용자 능력에 비례한다는 전제를 제시하며, 코딩이나 예술에 서툰 사람이 만든 AI 결과물은 유지보수가 불가능하거나 질이 낮다고 지적합니다. 한편 초지능이 등장해도 기업이 이를 월 200달러 구독 서비스로 공개할 이유가 없다는 반론과, 고등학교부터 대학까지 AI를 접한 첫 세대가 이미 등장했다는 우려도 함께 제기되고 있습니다.

AI의 실제 역량에 대한 인식 차이는 규제 도입 시점과 방향을 좌우하는 핵심 변수입니다. 전문가 신뢰도, 접근 권한의 불평등, 세대별 AI 의존도 문제까지 겹치며 AI 정책 논의가 기술 자체보다 사회적 합의 부재로 지체될 위험이 커지고 있습니다.

저사양·저VRAM 하드웨어에서도 로컬 LLM을 실용적으로 구동하려는 커뮤니티와 기법이 확산되며, 8GB급 GPU와 노트북에서도 코딩 에이전트를 돌릴 수 있는 수준에 도달했습니다.

r/LocalLLaMA에서 저사양 하드웨어 전용 커뮤니티 r/LowEndLocalAI가 새로 만들어졌으며, CPU 전용 추론, Vulkan, 부분 GPU 오프로딩, KV 캐시 최적화 같은 실전 기법을 공유하는 공간으로 자리잡고 있습니다. 실제로 RTX 3070 8GB VRAM 환경에서 Qwen3.6-35B-A3B 모델을 IQ4_NL 양자화로 구동해 초당 25토큰의 속도로 에이전틱 코딩 작업을 수행한 사례가 공유됐습니다. 8GB VRAM 노트북에서는 Laguna XS 2.1 모델이 6 만 토큰 컨텍스트에서 초당 30토큰으로 테트리스·소닉 스타일 게임을 한 번에 만들어내며 Gemma 4 26B- A4B와 Qwen 3.6 35B-A3B보다 나은 결과를 보였다는 후기도 있습니다.

또한 250M 파라미터 모델을 300억토큰으로 처음부터 학습시켜 2비트 이하로 양자화, 60MB 용량과 80MB RAM만으로 노트북 CPU에서 초당 400토큰을 내는 초경량 모델도 공개됐습니다. 이 모델은 1비트 압축 디스크 캐시로 최대 1억 토큰의 컨텍스트를 저장하는 구조를 채택했습니다.

고가 GPU 없이도 로컬 LLM으로 실질적인 코딩·작업 자동화가 가능해지면서, AI 활용의 진입장벽이 크게 낮아지고 있습니다. 양자화·MoE·경량 아키텍처 기법이 발전하며 일반 소비자 하드웨어에서도 프라이버시를 지키는 오프라인 AI 활용이 현실적인 대안으로 부상하고 있습니다.

개인 개발자와 소규모 팀들이 저예산으로 처음부터 학습한 실험적 LLM과 월드 모델을 잇달아 공개하며 초저비용 AI 연구의 가능성을 보여주고 있습니다.

Unbounded Labs는 1931년 이전 영어 문헌 201억 토큰으로 처음부터 학습한 28.2억 파라미터 모델 'Bart'를 800달러 예산으로 공개했습니다. 이 모델은 자체 제작한 20종 벤치마크 'Vintage CORE'에서 GPT- 1900보다 적은 토큰으로 더 높은 성능을 기록했고, H100 1대로 5일간 60% MFU를 유지하며 학습됐습니다. 또 다른 개발자는 2.5억 파라미터 모델을 300억 토큰으로 학습해 2비트 미만으로 양자화, 배포 용량 60MB에 CPU만으로 초당 400토큰 속도를 내는 모델을 선보였습니다. 이 모델은 512비트 고정 코드 기반 어휘 테이블과 디스크 기반 장기 컨텍스트 캐시(최대 1억 토큰)를 특징으로 합니다. 한편 Dreamer 4 아키텍처 기반 15.7억 파라미터 월드 모델은 150달러 미만으로 학습돼 PSNR 40.41, FVD 32.19를 기록하며 144프레임까지 안정적인 시뮬레이션을 구현했습니다.

거대 자본과 대규모 인프라 없이도 개인이나 소규모 팀이 의미 있는 실험적 모델을 만들 수 있다는 점을 실증한 사례들입니다. 이는 AI 연구의 진입장벽이 빠르게 낮아지고 있으며, 오픈소스 생태계가 창의적 실험의 중심으로 자리잡고 있음을 보여줍니다.

캘리포니아주가 변호사 시험에 AI가 사용될 경우 이를 반드시 공개하도록 하는 법안에 서명하면서, AI의 시험· 교육 개입 문제가 사회적 이슈로 떠올랐습니다.

2025년 2월 캘리포니아 변호사 시험에서 문제가 발생했습니다. 시험을 대행한 심리측정 업체 ACS Ventures 가 채점 대상 171개 객관식 문항 중 23개를 AI로 작성했지만, 이를 응시자들에게 사전에 알리지 않았습니다. 이 사실이 나중에 드러나면서 로스쿨 교수진이 강하게 반발했고, 시험 운영이 부실했다는 지적 속에 응시자의 약 90%에게 재시험 기회가 제공됐습니다. 이에 대한 후속 조치로 뉴섬 주지사는 8월 22일 다이앤 딕슨 하원의원이 발의한 AB 1651 법안에 서명했습니다. 이 법은 2028년 1월 1일부터 시행되며, 변호사 시험 출제나 운영 과정에 AI가 사용될 경우 주 변호사협회가 이를 웹사이트에 공개하고 관련 학습자료 표지에도 명시하도록 의무화합니다. 이후 사람이 AI 결과물을 검토하거나 수정했더라도, AI가 과정 어딘가에 개입했다면 공개 대상이 됩니다.

시험이나 교육처럼 신뢰가 핵심인 영역에서 AI 활용 투명성을 법으로 강제한 첫 사례로 꼽힙니다. 이는 AI가 교육 현장과 인사 결정(AI 매니저의 해고 사례 등)에 이미 깊이 개입하고 있다는 최근 흐름과 맞물려, 향후 다른 주나 기관들의 유사 규제 도입에 영향을 줄 가능성이 큽니다.

Xiaomi가 자체 개발한 3종 칩을 탑재한 AI 전용 하드웨어 'Xiaomi AI Cube' 프로토타입을 공개했습니다.

Xiaomi가 Xuanjie O3, Xuanjie O100, Xuanjie D100이라는 3개의 칩으로 구성된 AI Cube 시스템을 발표했습니다. 눈에 띄는 스펙은 1.22TB/s에 달하는 메모리 대역폭인데, 이 수치가 정확히 어느 칩에 해당하는지는 다소 혼란스러운 상황입니다. 원래 전기차용으로 개발된 D100 칩은 최대 160GB의 RAM을 지원하는 것으로 알려졌지만, 1.22TB/s의 대역폭은 O100 칩의 스펙으로 소개되고 있습니다. 커뮤니티에서는 이 수치가 SRAM 기준일 가능성이 제기되고 있으나, 공식적으로 명확히 확인되지는 않은 상태입니다.

Xiaomi가 스마트폰이나 전기차용 칩을 넘어 AI 전용 하드웨어 시장에 자체 칩셋으로 진출하려는 시도로 해석됩니다. 다만 스펙 발표 내용이 불명확해 정확한 성능 평가를 위해서는 추가 정보 공개가 필요한 상황입니다.