Groq: a API de inferência de IA mais rápida do mercado para desenvolvedores
Groq oferece inferência de LLMs em velocidades de centenas de tokens por segundo usando chips LPU próprios. Neste post, veja como funciona, como usar a API gratuita e quando faz sentido usar Groq no lugar de outras opcoes.