OHREN_Lab

News소식TencentTencent

Tencent releases Hy4 flash as open weights, with FP8 and base versions, under the Tencent Hy LicenseTencent, Hy4 flash 가중치 공개 — FP8 · base 모델 포함, Tencent Hy License

Tencent has released the weights of Hy4 flash, along with an FP8 version and the pre-trained base model, on Hugging Face, ModelScope and GitCode under the Tencent Hy License, which requires a separate written license for large MaaS businesses. A business offering the model to others as a service needs that license if its worldwide gross revenue exceeds US$50 million in any consecutive 12-month period, or before using it in a product with more than 100 million monthly active users; the terms do not apply to use solely for internal purposes, with neither the model, any derivative, nor their outputs made available to third parties. The model uses 12B of its 220B total parameters per token, takes text and image input and supports up to 1M tokens of context.Tencent가 Hy4 flash의 가중치를 FP8 버전, 사전 학습 base 모델과 함께 Hugging Face, ModelScope, GitCode에 공개했고, 라이선스는 큰 MaaS 사업자에게 별도 서면 라이선스를 요구하는 Tencent Hy License입니다. MaaS 사업을 하는 곳은 연속 12개월 전 세계 총매출이 5,000만 달러를 넘거나 월간 활성 사용자가 1억 명이 넘는 제품에 쓰려면 그 라이선스를 받아야 하고, 모델과 파생 모델, 그 출력을 다른 사람에게 내주지 않고 안에서만 쓰는 경우는 빠집니다. 모델은 전체 220B 파라미터 가운데 토큰마다 12B를 쓰고, 글과 그림을 받아 최대 1M 토큰 맥락을 다룹니다.

Source published원문 게시일
Checked확인일

Tencent has released the weights of Hy4 flash under the Tencent Hy License, with three versions on Hugging Face, ModelScope and GitCode: the instruct model Hy4 flash, the FP8-quantized Hy4 flash-FP8 and the pre-trained Hy4 flash-base. The model card describes loading it with Transformers or serving it with vLLM or SGLang, but Transformers support has not yet been merged into its main branch, and the card does not list the GPUs or memory needed to run it.Tencent가 Hy4 flash의 가중치를 Tencent Hy License로 공개했습니다. 지시를 따르도록 다듬은 Hy4 flash, FP8로 양자화한 Hy4 flash-FP8, 사전 학습만 마친 Hy4 flash-base 세 가지가 Hugging Face, ModelScope, GitCode에 올라왔습니다. 모델 카드는 Transformers로 불러 쓰거나 vLLM, SGLang 서버로 띄우는 길을 안내하지만 Transformers 지원은 아직 main 브랜치에 들어가지 않았고, 돌리는 데 필요한 GPU 수와 메모리는 모델 카드에 나와 있지 않습니다.

The license is derived from Apache 2.0 with added commercial terms for large Model-as-a-Service (MaaS) businesses, meaning those that give third parties remote access to model inference or fine-tuning, for example through an API. A MaaS business needs a separate written license from the licensor before using, or continuing to use, the model or a derivative if its worldwide gross revenue exceeds US$50 million in any consecutive 12-month period, whether or not that revenue comes from the model, or before using the model or a derivative in any of its products or services with more than 100 million monthly active users in any calendar month. These terms do not apply to use solely for internal purposes, with neither the model, any derivative, nor their outputs made available to third parties, and end-user products whose model capabilities are confined to specific features or workflows, or services that merely relay requests to an independently operated third-party model service, are not MaaS.라이선스는 Apache 2.0을 바탕으로 큰 MaaS(Model-as-a-Service) 사업자용 상업 조건을 더한 것이고, MaaS는 API 같은 길로 다른 사람에게 모델 추론이나 파인튜닝을 원격으로 열어 주는 것을 뜻합니다. MaaS 사업을 하는 곳은 연속 12개월 전 세계 총매출이 5,000만 달러(US$50 million)를 넘으면 그 매출이 이 모델에서 나왔는지와 상관없이 이 모델이나 파생 모델을 쓰거나 계속 쓰기 전에, 또는 어느 달이든 월간 활성 사용자가 1억 명을 넘는 자기 제품이나 서비스에 이 모델이나 파생 모델을 쓰기 전에 라이선스를 준 쪽(Licensor)의 별도 서면 라이선스를 받아야 합니다. 모델과 파생 모델, 그 출력을 다른 사람에게 내주지 않고 안에서만 쓰는 경우는 이 조건에서 빠지고, 특정 기능이나 작업 흐름에 한정된 최종 사용자 제품과 따로 운영되는 다른 회사 모델 서비스로 요청만 넘기는 것은 MaaS가 아닙니다.

Hy4 flash is a mixture-of-experts (MoE) model with 220B total parameters, including 64B Engram parameters, of which 12B are active per token; it takes text and image input, generates text and supports a context window of up to 1M tokens.Hy4 flash는 전체 220B 파라미터(Engram 파라미터 64B 포함) 가운데 토큰마다 12B만 쓰는 전문가 혼합(MoE) 모델로, 글과 그림을 받아 글로 답하고 최대 1M 토큰 맥락을 다룹니다.

The model card describes two ways to run it: loading it with Transformers for local inference, or deploying a server and accessing it through an OpenAI-compatible API. Until Transformers support is merged into its main branch, Transformers has to be installed from the pull-request commit given in the card; for production serving, Tencent recommends vLLM or SGLang, and the official Docker image examples for both start the FP8 model in GPU containers with a tensor-parallel size of 8, with the SGLang image built for both x86 and Arm. Reasoning mode supports high, the default with thinking enabled, and no_think for direct responses, and because Hy4 flash-base is a pre-trained model rather than an instruction-tuned chat model, the chat examples apply only to Hy4 flash and Hy4 flash-FP8.모델 카드는 Transformers로 불러 로컬에서 추론하거나 서버를 띄워 OpenAI 호환 API로 쓰는 두 길을 안내합니다. Transformers 지원이 main 브랜치에 들어가기 전까지는 모델 카드가 적은 풀 리퀘스트 커밋에서 Transformers를 설치해야 하고, 실제 서비스에는 vLLM이나 SGLang을 권하는데 두 곳의 공식 Docker 이미지 예시는 GPU를 쓰는 컨테이너에서 FP8 모델을 텐서 병렬 크기 8로 띄우며 SGLang 이미지는 x86과 Arm을 함께 지원합니다. 추론 모드는 생각을 켜는 기본 모드 high와 바로 답하는 no_think 두 가지이고, Hy4 flash-base는 지시를 따르도록 다듬지 않은 사전 학습 모델이라 채팅 예시는 Hy4 flash와 Hy4 flash-FP8에만 맞습니다.

WorkIndex is an internal benchmark Tencent built from typical WorkBuddy tasks, made up of 8 evaluation sets covering work such as slide creation and editing, document editing, spreadsheet repair, audio and video processing and visual understanding. In that internal testing, Tencent says Hy4 flash scored 42.1, slightly higher than Hy4 preview’s 39.7, at an average cost per task of 1/13 of Hy4 preview and 1/20 of Hy4.WorkIndex는 WorkBuddy의 흔한 업무로 만든 Tencent 내부 시험으로, 슬라이드 만들기와 고치기, 문서 편집, 스프레드시트 고치기, 오디오와 비디오 처리, 시각 이해 등을 담은 평가 세트 8개로 이뤄집니다. Tencent 자체 평가인 이 시험에서 Hy4 flash는 42.1점으로 Hy4 preview의 39.7점보다 조금 높았고, 작업당 평균 비용은 Hy4 preview의 13분의 1, Hy4의 20분의 1이었다고 Tencent는 밝혔습니다.

Chart from the Hy4 flash model card plotting score against cost per task for seven models in Tencent’s own internal WorkIndex testing, where Hy4 flash sits furthest left at the lowest cost with a score slightly higher than Hy4 preview.
Chart: Tencent Hy4 flash model card. Tencent internal testing.그림: Tencent Hy4 flash 모델 카드. Tencent 내부 시험 결과입니다. Open original원본 보기

Tencent recommends Hy4 flash for most everyday productivity tasks, including deep search, document processing, slide creation, simple frontend demos and computer use, and recommends Hy4, with its higher intelligence ceiling, for complex tasks such as long-horizon software engineering.Tencent는 깊은 검색, 문서 처리, 슬라이드 만들기, 간단한 프런트엔드 데모, 컴퓨터 사용 같은 대부분의 일상 업무에 Hy4 flash를 쓰라고 권하고, 오래 이어지는 소프트웨어 엔지니어링 같은 복잡한 일에는 지능 상한이 더 높은 Hy4를 권한다고 밝혔습니다.

The WorkIndex scores and costs come from Tencent’s internal testing. The license says it is derived from Apache 2.0 but is not the Apache License, Version 2.0, and is not endorsed by or affiliated with the Apache Software Foundation; the model card and license do not list the GPUs or memory needed to run the model or the cost of the separate written license.WorkIndex 점수와 작업당 비용은 Tencent 내부 시험으로 잰 값입니다. 라이선스는 Apache 2.0에서 왔지만 Apache License 2.0 자체가 아니고 Apache Software Foundation이 보증하거나 관계된 것도 아니라고 적혀 있으며, 모델을 돌리는 데 필요한 GPU 수와 메모리, 별도 서면 라이선스의 비용은 모델 카드와 라이선스에 나와 있지 않습니다.

All algoit posts알고IT 글 목록

Follow algoit on알고IT 팔로우하기X Instagram Threads