Hermes — 더 가까이, 더 빠르게

Hermes는 Nous Research가 공개한 오픈소스 LLM 시리즈입니다. Meta의 Llama를 베이스로, 합성 데이터로 광범위하게 파인튜닝했어요.

왜 Hermes인가

항목	Hermes 3	비교 대상
라이선스	Apache 2.0 (완전 오픈)	Llama 3.1 Community License
파인튜닝 데이터	100% 합성 공개	비공개
추론 컨텍스트	128K	128K
한국어 성능	높음 (한글 데이터 다량 포함)	보통

핵심은 데이터와 학습 가중치가 모두 공개라는 점입니다. 학업·연구용으로 제한 없이 쓸 수 있어요.

실전 사용

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "NousResearch/Hermes-3-Llama-3.1-8B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto")

prompt = "AI 입문자에게 첫 번째로 알려주고 싶은 한 가지는?"
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
output = model.generate(**inputs, max_new_tokens=256, temperature=0.7)
print(tokenizer.decode(output[0], skip_special_tokens=True))

다음 글에서

• Hermes 데이터셋 — 합성 데이터는 어떻게 만들까
• Hermes로 한국어 에이전트 만들기
• Hermes vs Mistral vs Llama — 실전 벤치마크