텐센트 Hunyuan Hy4, AI 모델 구조 혁신… 딥시크·즈푸 기술 접목으로 효율 극대화 (+Hunyuan Hy4, 텐센트, AI 모델) > 기타정보

텐센트 Hunyuan Hy4, AI 모델 구조 혁신… 딥시크·즈푸 기술 접목으로 효율 극대화 (+Hunyuan Hy4, 텐센트, AI 모델)
기타정보 |

기사정보

쪽지보내기 자기소개 아이디로 검색
작성일: 2026-08-28 20:26:04
조회: 44  /  추천: 0  /  반대: 0  /  댓글: [ 0 ]

텐센트의 Hunyuan Hy4 모델이 AI 기술 발전에 중요한 기여를 하고 있습니다. 이번 업데이트는 모델 크기 확장뿐만 아니라, AI 처리의 핵심인 아키텍처 자체를 근본적으로 재설계한 점이 특징입니다.

기존 Hy3 모델의 전통적인 전체 어텐션 방식에서 벗어나, Hy4는 DeepSeek의 Sparse Attention을 활용한 Gated DSA 기술을 채택했습니다. 이를 통해 방대한 양의 텍스트를 처리할 때 관련성 높은 부분을 먼저 선별하여 집중 처리함으로써 효율성을 높였습니다.

 

Hunyuan Hy4 모델에는 DeepSeek의 Sparse Attention 외에도 Zhipu의 IndexCache 기술이 새롭게 추가되었습니다. 이전에는 모델의 각 계층에서 중요.

내용을 다시 판단해야 했지만, 이제는 일부 계층에서 이전에 선별된 결과를 재사용하여 계산상 불필요한 작업을 줄였습니다. 또한, 기존 트랜스포머 모델이 하나의 정보 백본을 가졌다면, Hy4는 iHC 기술을 통해 이를 네 개의 백본으로 확장하여 더 많은 정보를 동시에 유지할 수 있게 되었습니다.

 

◆텐센트 Hunyuan Hy4, AI 모델 구조 혁신… 딥시크·즈푸 기술 접목 (+Hunyuan Hy4, 텐센트, AI 모델, 딥시크)

추천 0 반대 0