Descrição
Resumo:
Procuramos um Engenheiro Backend especializado em Node.js/NestJS para ampliar uma plataforma de IA, construindo um backend proxy para o tempo de execução de inferência e aprimorando os painéis.
Pontos principais:
1. Construir um backend proxy para o tempo de execução de inferência de uma nova plataforma de IA.
2. Ampliar os painéis com novos recursos, como gerenciamento de modelos e uso.
3. Trabalhar com Node.js, NestJS, PostgreSQL, Redis e Socket.IO.
### **Sobre Nós**
Somos uma startup em modo sigiloso construindo uma nova plataforma de IA. Nossa missão é tornar modelos avançados de linguagem implantáveis, personalizáveis e seguros em diversos ambientes.
### **Função**
Procuramos um **Engenheiro Backend (Node.js/NestJS)** para ampliar nossa plataforma utilizando nossa base de código existente. Você desenvolverá o **backend proxy** que interage com nosso tempo de execução personalizado de inferência e ampliará os painéis.
Esta função exige sólidas habilidades de engenharia backend, capacidade de integrar sistemas existentes e conforto ao trabalhar em estreita colaboração com engenheiros de C\+\+/CUDA que desenvolvem recursos de tempo de execução de baixo nível.
### **Responsabilidades**
#### **Backend Proxy para Tempo de Execução de Inferência**
* Construir e manter um **backend proxy baseado em Node.js** que:
+ Receba solicitações de inferência do frontend.
+ Agende e serialize prompts.
+ Gerencie o **carregamento/descarregamento do cache QKV**.
+ Forneça APIs para **gerenciar adaptadores LoRA**.
* Integrar-se à autenticação, RBAC e registro já fornecidos pela pilha existente.
* Expor métricas e registros para monitoramento do uso e desempenho da inferência.
#### **Painéis**
* Ampliar o painel existente com upload de conjuntos de dados, visualização de trabalhos de treinamento, gerenciamento de modelos, uso de inferência, histórico de solicitações e seleção de adaptadores.
* Reutilizar código de **autenticação, cobrança e gerenciamento de usuários** (Auth0, Stripe).
* Adicionar endpoints backend necessários para suportar novos fluxos de interface do usuário.
#### **Pilha Principal \& Infraestrutura**
* Desenvolver usando **NestJS** como principal framework backend.
* Trabalhar com **PostgreSQL, Redis e HashiCorp Vault** para persistência, cache e gerenciamento de segredos.
* Usar **Socket.IO** para atualizações em tempo real (status do trabalho, progresso da inferência).
* Garantir integração segura com Stripe (cobrança) e Auth0 (identidade).
* Colaborar com DevOps em pipelines de implantação (Proxmox, Docker, CI/CD).
### **Requisitos**
* Experiência sólida com **Node.js** e com o framework **NestJS**.
* Proficiência em **PostgreSQL** e **Redis** para persistência e cache.
* Experiência prática com **Socket.IO** ou outras bibliotecas WebSocket.
* Experiência com **configuração segura e gerenciamento de segredos** (preferencialmente HashiCorp Vault).
* Conforto ao trabalhar com **microsserviços** e integrar-se a bases de código existentes.
* Forte capacidade de depuração e pensamento sistêmico — capaz de raciocinar sobre agendamento, gerenciamento de estado e concorrência.
### **Desejável**
* Experiência integrando-se a **tempos de execução de IA** (backends gRPC/REST para inferência).
* Experiência com RAG e MCP.
* Experiência com **frameworks de autenticação/autorização** (Auth0, JWT, RBAC).
* Familiaridade com a **API do Stripe** ou sistemas semelhantes de cobrança.
* Contribuições em projetos open-source de backend.
* Experiência com WebRTC.
### **Por Que Se Juntar**
* Ampliar uma base consolidada de SaaS em uma **nova plataforma de tempo de execução de IA**.
* Remuneração competitiva, com potencial de participação acionária.