Harheem's Blog

Sign in Subscribe

Hugging Face Chat Template 정리하기

Hugging Face Chat Template 정리하기

이전에는 대화형 언어 모델의 챗 템플릿(Chat Template)을 확인하려면 Hugging Face 저장소의 'Files and Versions' 탭에서 tokenizer_config.json 같은 설정 파일을 직접 찾아봐야 했습니다. 모델마다 다른 프롬프트 형식을 적용하기 위해 거쳐야 하는 다소 번거로운 과정이었습니다. 최근 허깅페이스 모델 페이지에 이 챗 템플릿을 바로 확인할 수 있는

[독서 노트] 질문의 격 - 유선경

[독서 노트] 질문의 격 - 유선경

문장에 ‘왜’를 넣는다고, 문장 끝에 물음표를 매달아 놓는다고 다 질문이 될 수 없다. '겸손'에 달리지 않았다. 내가 처한 세상을 얼마나 정확하게 알고자 하는지에 달려 있다. 글은 필연적으로 오독의 가능성을 품고 있다. 문해력의 수준이 낮아서 오독하기도 하지만 같은 글을 두고 자기중심적으로 제각각 해석하는 경우가 매우 흔하다. 소크라테스는

Gradio 앱을 MCP(Model Context Protocol) 서버로 실행하기

Gradio 앱을 MCP(Model Context Protocol) 서버로 실행하기

이 가이드는 Gradio 앱을 MCP(Model Context Protocol) 서버로 실행하는 방법을 안내합니다. 핵심은 .launch()에 mcp_server=True를 넣는 것입니다. 나머지는 Gradio가 자동으로 처리합니다. 참고 문서: https://www.gradio.app/guides/building-mcp-server-with-gradio 시작하기 전에 필요 한 것 아직 Gradio가 설치되어 있지 않다면, 아래 명령어로 MCP 관련 기능까지 한 번에 설치할

프롬프트 튜닝 Prompt Tuning 살펴보기

프롬프트 튜닝 Prompt Tuning 살펴보기

Prompt Tuning PEFT(Parameter-Efficient Fine-Tuning)는 적은 수의 파라미터를 학습하는것만으로 모델 전체를 파인튜닝하는 것과 유사한 효과를 누릴 수 있도록 해줍니다. PEFT 방법 중 하나인 Prompt Tuning에 대해서 알아봅시다. 참고 논문: https://arxiv.org/pdf/2104.08691.pdf 프롬프트 튜닝이란? 언어 모델을 특정 작업에 맞게 조정하기 위해 사용되는 기술입니다. 기존의 방식은