Se você está construindo um SaaS baseado em IA, então você provavelmente utilizou algum tipo de modelo de ML ou fez uso das APIs Open AI em seu SaaS, o que é bom. Porém, às vezes, para o longo prazo, você precisa implementar sua própria solução de LLM, como LLAMA, Mistral 7B ou talvez outra opção. No artigo de hoje, vou compartilhar alguns bons recursos relacionados à IA que você, como fundador ou desenvolvedor, pode consultar para seus projetos de SaaS.
Vercel AI SDK
Se você é um desenvolvedor, provavelmente já utilizou o Vercel em seu projeto para implantação de vários aplicativos. No entanto, a imagem não termina aí. O Vercel fornece muitos SDKs open-source legais que podem ser facilmente integrados com o Open AI ou Gemini. Por exemplo, dê uma olhada nesta interface de bate-papo IA interativa. Normalmente em um bate-papo, ocorre uma troca de mensagens de texto ou imagens, mas aqui você pode interagir com os componentes e instruir a IA a realizar ações de acordo.
Ou, se você quiser adicionar uma interface de streaming de texto ao seu chatbot, você pode conferir o Vercel streaming text response. O Vercel oferece muitos outros SDKs que você pode encontrar em sua documentação, o que poderia ser um bom valor agregado para o seu SaaS.
E se você é um desenvolvedor, pode ver que há muitos códigos boilerplate pré-construídos para você começar.
Azure Open AI
O Azure Open AI é uma versão muito mais poderosa do Open AI normal que usamos. Eles fornecem uma interface completa onde você pode ajustar seu modelo, controlando o tom, a temperatura, configurando tokens e muitas outras coisas.
O Azure Open AI também pode ser acessível praticamente sem custo se você participar do Microsoft Startup Program, onde eles lhe darão créditos gratuitos que você pode usar no Azure.
https://www.microsoft.com/en-us/startups
Hugging Face
O Hugging Face é uma comunidade de IA onde você pode encontrar muitos modelos de IA open-source e closed-source com sua documentação e como implementá-los. Esta é a solução completa para qualquer modelo de IA que você esteja tentando construir ou encontrar, as pessoas mesclam modelos de IA e os listam aqui, o que pode superar muitas tarefas.
Runpod
Se você quiser implantar seu modelo de IA em alguma nuvem, o Runpod é o lugar perfeito para você. Pense nele como o Heroku para modelos de IA, onde você pode encontrar muitas GPUs que eles oferecem para usar e um processo de configuração fácil.
Falando sobre implantação, se você estiver construindo um LLM para um SaaS que tem cerca de 100 usuários, estas são algumas GPUs que você pode querer considerar para um desempenho agradável e suave.
GPU RTX 4090 com 24G GRAM ou A100 com 80GB GRAM
Together.ai
Se você não quiser usar o Open AI e tentar outros modelos de IA, mas ao mesmo tempo não quiser hospedar e configurar os modelos de IA, então você deve conferir o Together.ai. Eles oferecem vários modelos de IA a um custo muito razoável que você pode usar como uma API direta em seu SaaS.
Espero que esses recursos de IA sejam úteis para o seu SaaS. Por favor, deixe-me saber nos comentários o que você achou ou se tem alguma dúvida e quer descobrir as coisas para o seu SaaS. Sinta-se à vontade para entrar em contato.
