NVIDIA-NeMo/Switchyard
@NVIDIA-NeMoSwitchyard memungkinkan aplikasi LLM merutekan lalu lintas ke berbagai model dan penyedia layanan sambil tetap menjaga kompatibilitas API OpenAI dan Anthropic, sehingga memungkinkan pemilihan model yang fleksibel, benchmarking, serta optimasi biaya dan performa.
Bintang
2.665
Fork
231
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
5 hari yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.