LLM Ops Engineer (Colombia)

LLM Ops Engineer (Colombia)

03 sep
|
Cashea
|
Colombia

03 sep

Cashea

Colombia

¡Hola! Somos Cashea y nuestra misión es devolverle a los venezolanos la oportunidad de acceder al crédito a través de un modelo de negocio BNPL (buy now, pay later).

Desde nuestro lanzamiento en 2022, nos hemos dedicado a promover la inclusión financiera. Hoy contamos con más de 9 millones de usuarios activos, tanto consumidores como comercios, y nos hemos convertido en una marca de confianza en Venezuela, ganándonos el corazón y la mente de las personas.

Resumen del rol

Vas a construir el pipeline de LLM Ops que le permite a Cashea llevar casos de uso con modelos de lenguaje a producción, apoyándote en la infraestructura de ML que ya existe en la compañía (MLflow, Cloud Run, Cloud Composer, Vertex AI Feature Store). No entrenamos ni hosteamos modelos propios: consumes LLMs por API (OpenAI, Anthropic, Gemini vía Vertex AI) y tu trabajo es la capa de orquestación, evaluación y gobernanza alrededor de esas llamadas.

Responsabilidades

- Diseñar y mantener el pipeline de LLMOps: versionado de prompts, evaluación automática (RAG, LLM-as-judge, datasets de regresión) y trazabilidad de cada respuesta generada.

- Integrar observabilidad de LLM (tracing, costo, latencia) sobre el stack de MLOps que ya usa Cashea, en lugar de levantar infraestructura paralela.

- Construir y mantener sistemas RAG: chunking, embeddings, vector database y evaluación del retrieval.

- Construir SDKs y librerías internas en Python para que otros equipos consuman el pipeline de LLM sin fricción.

- Definir guardrails para casos de uso generativo en contextos de riesgo crediticio: fugas de PII, alucinaciones y trazabilidad ante disputas de usuarios.

- Gestionar el consumo de APIs de LLM externas: control de costo, rate limits y fallback entre providers.





- Coordinar con Data Engineering y con los squads de Riesgo, Growth y Cobranza para asegurar la calidad y disponibilidad de los datos que alimentan estos casos de uso.

- Documentar decisiones de arquitectura en RFCs y acompañar a otros equipos en la adopción de las herramientas.

Requisitos

- 5+ años en Ciencia de Datos, Machine Learning o MLOps.

- 2+ años operando MLOps en producción: registry, tracking, monitoring, versionado.

- Experiencia llevando LLMs a producción vía API (OpenAI, Anthropic, Gemini o similar): evaluación (Ragas, promptfoo o equivalente) y RAG end-to-end.

- Experiencia construyendo SDKs o librerías Python de uso interno.

- Experiencia con CI/CD (GitHub Actions, GitLab CI, Jenkins).

Herramientas

- Python avanzado (packaging, testing, documentación).

- MLflow (registry, tracking server, artifacts).

- Stack de LLMOps: prompt registries, frameworks de evaluación (Ragas, promptfoo, LLM-as-judge), tracing y observabilidad (Langfuse, LangSmith o Arize Phoenix).

- Vector databases (pgvector, Pinecone, Weaviate o similar) y diseño de RAG.

- Orquestación de agentes o function calling (LangChain, LlamaIndex).

- APIs de LLM externas (OpenAI, Anthropic, Gemini/Vertex AI).

- Docker, porque Cloud Run corre sobre contenedores.

- Git y flujos de GitHub/GitLab.

- Diseño y desarrollo de REST APIs.

- GCP preferible, porque el stack de Cashea corre ahí (Cloud Run, Cloud Composer,



Vertex AI); AWS o Azure aceptable.

Nice to have

- Experiencia con gateways de LLM existentes: LiteLLM, Portkey, Kong AI Gateway, Cloudflare AI Gateway, OpenRouter o similares.

- Conocimiento del Model Context Protocol (MCP) y experiencia integrando o gobernando servidores MCP.

- Experiencia con herramientas de observabilidad para IA: Langfuse, Helicone, LangSmith, Arize Phoenix.

- Experiencia con guardrails y seguridad de IA (p. ej. defensa contra prompt injection, content moderation, DLP).

- Experiencia en FinOps o gestión/atribución de costos en la nube.

- Experiencia previa en entornos regulados (fintech, salud, etc.) con requisitos de cumplimiento y privacidad.

- Experiencia con infraestructura como código (Terraform) y CI/CD.

Por qué te encantará trabajar en Cashea

En Cashea tenemos una cultura de trabajo basada en la confianza y el propósito. Si quieres saber por qué somos el lugar ideal para ti, estos son nuestros valores fundamentales:

- No trabajamos en piloto automático. Todo lo que hacemos y compartimos —dentro y fuera— es intencional. Nos apasiona crear ideas siendo plenamente conscientes del impacto que tienen en nuestros usuarios.

- Tu creatividad y curiosidad son tus activos más importantes.

- Tu voz importa. Escuchamos y abrimos espacio para las ideas y el feedback. Aquí todos pertenecen; lo que es importante para ti, lo es para nosotros.

- Valoramos la transparencia. La claridad nos mantiene conectados y con los pies en la tierra.

- Por último, pero no menos relevante, nos enfocamos en el impacto real. Todo lo que hacemos está destinado a marcar la diferencia.

¿Te identificas? ¡Postúlate ahora, nos encantaría conocerte!

📌 LLM Ops Engineer (Colombia)
🏢 Cashea
📍 Colombia

Postulate a este anuncio

Muestra tus habilidades a la empresa, rellenar el formulario y deja un toque personal en la carta, ayudará el reclutador en la elección del candidato.

Suscribete a esta alerta:

Recibe por email las nuevas ofertas de trabajo para: llm ops engineer (colombia) / colombia

Suscribete a esta alerta:

Recibe por email las nuevas ofertas de trabajo para: llm ops engineer (colombia) / colombia