Hugging Face 소개
Hugging Face는 세계 최대의 오픈소스 AI 모델 커뮤니티로, 수십만 개의 사전 학습 모델을 호스팅합니다. Inference API를 통해 OpenClaw에서 이러한 모델을 쉽게 호출할 수 있습니다.
기본 설정
{
"providers": {
"huggingface": {
"type": "openai",
"baseUrl": "https://api-inference.huggingface.co/models/",
"apiKey": "{{HF_API_TOKEN}}",
"models": ["mistralai/Mistral-7B-Instruct-v0.3"]
}
}
}
openclaw secrets set HF_API_TOKEN "hf_your_token_here"
Inference Endpoints 사용
프로덕션 환경에는 전용 추론 엔드포인트를 권장합니다:
{
"providers": {
"hf-endpoint": {
"type": "openai",
"baseUrl": "https://your-endpoint-id.us-east-1.aws.endpoints.huggingface.cloud/v1",
"apiKey": "{{HF_API_TOKEN}}",
"models": ["tgi"]
}
}
}
추천 모델
| 모델 | 파라미터 | 적합한 시나리오 |
|---|---|---|
| mistralai/Mistral-7B-Instruct-v0.3 | 7B | 범용 대화 |
| meta-llama/Llama-3.1-8B-Instruct | 8B | 범용 대화 |
| Qwen/Qwen2.5-72B-Instruct | 72B | 중국어 시나리오 |
정리
Hugging Face는 풍부한 오픈소스 모델 선택지를 제공하며, Inference API 또는 Inference Endpoints를 통해 OpenClaw에 연결하면 다양한 시나리오에 적합한 모델을 유연하게 선택할 수 있습니다.