Together AI 소개
Together AI는 오픈소스 모델 추론에 특화된 클라우드 플랫폼으로, Llama, Mixtral, Qwen 등 주류 오픈소스 모델의 호스팅 추론 서비스를 제공합니다. API가 OpenAI 형식과 완전 호환되며, 폐쇄형 모델보다 가격이 저렴한 것이 특징입니다.
기본 설정
{
"providers": {
"together": {
"type": "openai",
"baseUrl": "https://api.together.xyz/v1",
"apiKey": "{{TOGETHER_API_KEY}}",
"models": [
"meta-llama/Llama-3.1-70B-Instruct-Turbo",
"meta-llama/Llama-3.1-8B-Instruct-Turbo",
"Qwen/Qwen2.5-72B-Instruct-Turbo"
]
}
}
}
openclaw secrets set TOGETHER_API_KEY "your-together-api-key"
추천 모델
| 모델 | 파라미터 | 특징 |
|---|---|---|
| Llama-3.1-70B-Instruct-Turbo | 70B | 범용 능력 우수 |
| Llama-3.1-8B-Instruct-Turbo | 8B | 빠르고 경제적 |
| Qwen2.5-72B-Instruct-Turbo | 72B | 중국어 능력 우수 |
다른 공급자와 연동
Together AI를 백업 공급자로 사용합니다:
{
"models": {
"main-model": {
"provider": "openai",
"model": "gpt-4o",
"fallback": "together-smart"
}
}
}
정리
Together AI는 풍부한 오픈소스 모델 선택지와 매우 경쟁력 있는 가격을 제공하며, OpenClaw 다중 모델 전략에서 필수적인 구성원입니다. 비용에 민감하면서도 대규모 모델의 능력이 필요한 시나리오에 특히 적합합니다.