MiniMax H3 GPU 최적화, Jev와 Adaptive VSA 분석
TypeSafe AI가 9월 15일 공개한 결정 모델 Jev와는 이름만 같고 아무 관계가 없는 또 다른 Jev를 오픈소스 GPU 최적화 프로젝트에서 발견했습니다. RTX 4070 12GB 한 장에 실제로 설치하고 keep_percent를 바꿔가며 측정한 결과까지 정리합니다.
Recent Posts
104 posts · 1 / 6
Hy Image3.5 Preview, 텐센트AI의 새 이미지 모델
텐센트 훈위안의 이미지 생성 모델 Hy Image3.5 Preview가 9월 22일 정식 공개됐습니다. 참고 이미지 20장까지 한 번에 다루는 편집 능력과 4K 출력, 공개된 벤치마크와 실제로 만들어본 결과물까지 정리합니다.
트랜스코딩 지연으로 SSAI 스티칭이 실패하는 케이스
SSAI에서 광고 스티칭이 실패하는 흔한 원인 중 하나는 크리에이티브가 제때 트랜스코딩되지 않는 경우입니다. AWS MediaTailor의 실제 FILLED_AVAIL 로그 스키마와 의사코드로 광고 단위 처리를, 그 대척점에 있던 Tencent Cloud StreamPackage의 구간 단위 처리를 비교하고 개선까지 이어진 과정을, 그리고 StreamPackage 콘솔의 Ad Insertion Statistics로 그 개선을 확인하는 방법까지 정리합니다.
SSAI Beacon, 광고가 진짜 재생됐다는 걸 증명하는 방법
광고가 화면에 나갔다는 것만으로는 광고비를 정산할 수 없습니다. SSAI에서 재생 진행 상황을 서버가 직접 보고하는 비콘 구조를 AWS MediaTailor의 예시로 살펴보고, Tencent Cloud StreamPackage가 같은 체계를 어떻게 지원하는지 정리합니다.
StreamPackage Click-through, 스티칭된 광고에 없는 버튼을 만드는 법
SSAI로 스티칭된 광고는 플레이어 입장에서 그냥 영상일 뿐이라 VAST의 ClickThrough를 그대로 쓸 수 없습니다. StreamPackage가 세션 초기화와 트래킹 폴링만으로 이 문제를 어떻게 푸는지, 실제 세션을 직접 만들어보며 정리합니다.
Tencent Cloud WAND-Vega 분석
영상 생성 모델은 품질을 올릴수록 비용이 함께 뛰는 경우가 많습니다. 텐센트가 자체 개발한 WAND-Vega가 등급을 나눠 이 문제를 어떻게 풀었는지, 그리고 스토리보드부터 사운드까지 이어지는 제작 파이프라인을 정리합니다.
[GPU] TKE/TI-ONE 연동과 운영/장애 대응 체크리스트
CVD를 TKE 등록 노드와 TI-ONE 외부 자원 그룹으로 각각 편입하는 절차를 정리하고, 추론과 학습이 요구하는 자원이 어떻게 다른지, 서비스 공개 전에 확인해야 할 장애 대응 체크리스트를 실측 기준으로 정리합니다.
Ad Prefetching, 광고 서버 폭주를 앞당겨 막는 구조
라이브 광고 구간마다 광고 결정 서버를 실시간으로 호출하면 수만 세션이 한 번에 몰려 타임아웃과 Fill-rate 하락으로 이어집니다. StreamPackage의 SSAI Ad Prefetching이 이 요청을 어떻게 앞당겨 분산시키는지, 그리고 CLS 로그로 어떻게 확인하는지 정리합니다.
SSAI Click-through, 플레이어 CTA가 뜨지 않는 이유
SSAI 광고에 CTA 버튼을 직접 붙여보면서 겪은 세 가지 문제를 정리합니다. clickThrough URL이 내려와도 CTA가 안 뜨는 경우, 클릭은 되는데 지표가 안 잡히는 경우, 트래킹 응답이 첫 번째 이후로 계속 비어 있는 경우입니다.
[GPU] 영상 생성 성능/비용 실측: 구성별 처리시간과 요금
GPU 배치, 샘플링 단계 수, 해상도를 바꿔가며 영상 생성 파이프라인의 단건 지연시간과 시간당 처리량을 실측하고, 실제 GPU 인스턴스 단가로 완성 영상 한 편의 비용을 계산합니다.
Service LLM API로 나만의 모델 학습시키기
GPT, Claude, Gemini 같은 상위 모델을 매번 호출하면 답변 품질은 좋지만 트래픽이 늘수록 비용이 그대로 늘어납니다. 시중에 있는 Service LLM API 하나로 여러 모델의 답변을 모아 내 목적에 맞는 소형 모델을 학습시키는 방법과, 이게 왜 비용 면에서 유리한지를 실제로 5억 파라미터 모델을 직접 학습시켜본 결과로 정리합니다.
[GPU] 영상 생성 Agent API 설계와 Python 클라이언트 구현
MiniMax-H3를 SGLang 포트에 직접 붙이는 대신, 초해상도 후처리와 모델 전환까지 포함한 별도 Agent API(7002)로 감싸고, 재시도/다운로드/검증까지 갖춘 Python 클라이언트로 실제 요청을 끝까지 흘려봤습니다.
[GPU] SGLang으로 영상생성 추론 최적화하기
MiniMax H3 영상생성 모델을 SGLang으로 서빙하면서 BF16/FP8, Turbo LoRA/LightX2V 가속, 4GPU 단일 인스턴스부터 1GPU 복제까지 GPU 배치를 바꿔가며 실제로 돌려보고 지연/처리량 차이를 확인합니다.
GPT-6 Astra는 왜 영상을 직접 만들지 않는가
AI로 영상을 뽑으려면 카메라 위치와 동선, 공간 구조까지 프롬프트 한 줄에 눌러 담아야 했습니다. Higgsfield는 OpenAI의 최신 모델 GPT-6 Astra를 픽셀 대신 장면 설계를 맡는 기획 레이어로 쓰고, 실제 렌더링은 자사 영상 모델 Seedance 2.5에 맡기는 방식으로 이 문제를 풀었습니다.
WAND-Vega와 HY 3D로 영화 같은 원테이크 샷 구현하기
AI 영상 생성 툴 Higgsfield는 영상을 그리지 않는 AI를 장면 설계 담당으로 세워두고, 실제 렌더링은 자사 모델에 맡깁니다. 같은 아이디어를 Text LLM과 HY 3D, WAND-Vega로 직접 재현해, 카지노 원테이크 장면 하나를 프롬프트에서 완성 영상까지 뽑아본 핸즈온 기록입니다.
[GPU] MiniMax H3 영상생성 모델과 ComfyUI 워크플로
MiniMax H3 영상생성 모델을 CVD GPU 인스턴스에 올리고, ComfyUI 워크플로와 SGLang API 두 실행 경로를 각각 구성해 실측했습니다. 4 GPU 병합 경로와 단일 GPU 4분할 경로에서 Turbo LoRA가 서로 다르게 동작한다는 점도 실제로 확인했습니다.
[GPU] GLM 배포와 DeepSeek 대비 실측 비교
같은 CVD GPU 워크스페이스에 GLM-5.3-Flash를 배포하고, DeepSeek 배포와 관리 방식/인증/추론 옵션이 실제로 어떻게 다른지 실측으로 비교합니다.
[GPU] DeepSeek 자체 배포 Hands-on
DeepSeek-V4-Flash 전용 CVD 이미지에서 vLLM 기반 API를 직접 띄우고, CLI/REST/Python 세 경로로 호출하며 스트리밍, 추론 모드, 도구 호출, 컨텍스트 길이 변경까지 실제로 확인합니다.
[GPU] CVD로 AI 에이전트 GPU 워크스페이스 구축하기
Tencent Cloud Desktop(CVD) 위에 GPU 기반 AI 에이전트 워크스페이스를 구축하는 과정을 실제로 밟아봤습니다. GPU가 언제 필요하고 언제 필요 없는지부터, GPU 메모리 산정, 인스턴스/이미지 구성, 콘솔/사설망/공인망 접속 경로까지 실측으로 정리합니다.
Tencent의 파운데이션 LLM 모델 Hy4-preview
Tencent Hy3의 후속 모델 Hy4-preview가 오픈웨이트로 공개됐습니다. 770B 파라미터 중 49B만 활성화하는 MoE 구조와 벤치마크 상승폭, 실제로 써본 인상을 정리합니다.