Ingeniero de infraestructura de MLOps ML Ops Infrastructure Engineer

Descripción de la empresa

Deepgram es la plataforma líder que sustenta la emergente economía de Voice AI, valorada en billones de dólares, y ofrece API en tiempo real para convertir voz a texto (STT), texto a voz (TTS) y crear agentes de voz de calidad de producción a gran escala. Más de 200,000 desarrolladores y más de 1,300 organizaciones crean ofertas de voz «Powered by Deepgram», entre ellas Twilio, Cloudflare, Sierra, Decagon, Vapi, Daily, Cresta, Granola y Jack in the Box. Se accede a los modelos fundacionales de voz de Deepgram mediante API en la nube o como software autohospedado y local, con una precisión inigualable, baja latencia y eficiencia de costos. Respaldada por una reciente ronda de financiación Serie C liderada por importantes inversionistas globales y socios estratégicos, Deepgram ha procesado más de 50,000 años de audio y transcrito más de 1 billón de palabras. No hay ninguna organización en el mundo que entienda la voz mejor que Deepgram.

Ritmo de trabajo de la empresa

En Deepgram, esperamos una mentalidad que priorice la IA: el uso de la IA y la comodidad al trabajar con ella no son opcionales; son fundamentales para nuestra forma de operar, innovar y medir el desempeño.

Se espera que cada integrante del equipo de Deepgram use y pruebe activamente herramientas avanzadas de IA, e incluso que incorpore sus propias herramientas a su trabajo cotidiano. Medimos la eficacia con la que se aplica la IA para lograr resultados, y el uso constante y creativo de las capacidades de IA más recientes es clave para tener éxito aquí. Los candidatos deben sentirse cómodos adoptando rápidamente nuevos modelos y modalidades, integrando la IA en sus flujos de trabajo y ampliando continuamente los límites de lo que estas tecnologías pueden hacer.

Además, avanzamos al ritmo de la IA. Los cambios son rápidos, y puedes esperar que tu trabajo cotidiano evolucione con la misma rapidez. Es posible que este puesto no sea adecuado para ti si no te entusiasma experimentar, adaptarte, pensar con rapidez y aprender constantemente, o si buscas algo muy prescriptivo con un horario tradicional de 9 a 5.

La oportunidad

Llevar un modelo desde un cuaderno de investigación hasta una API de producción que atiende millones de solicitudes es uno de los mayores desafíos de la IA. Como ingeniero de infraestructura de MLOps en Deepgram, estarás a cargo de la conexión fundamental entre la investigación y la producción: crearás los pipelines, los sistemas de implementación y la infraestructura de pruebas que llevan los modelos desde la fase experimental hasta un estado probado y confiable a gran escala. Tu trabajo garantiza que cada mejora de modelo que realice nuestro equipo de investigación pueda entregarse de forma segura, rápida y confiable a los clientes que dependen de las API de Deepgram para la IA de voz en tiempo real.

Lo que harás

• Diseñar y crear pipelines de CI/CD específicamente adaptados al desarrollo, la validación y la implementación de modelos de ML

• Diseñar la arquitectura y mantener pipelines de implementación de modelos que los trasladen con confianza desde entornos de investigación, pasando por la etapa de pruebas, hasta producción

• Crear infraestructura de pruebas A/B que permita implementaciones controladas de nuevos modelos y mida el impacto en el desempeño en condiciones reales

• Implementar un monitoreo integral del desempeño de los modelos en producción: métricas de precisión, latencia, detección de desviaciones y alertas de regresión

• Desarrollar pipelines automatizados de reentrenamiento que se activen ante cambios en los datos, degradación del desempeño o según una periodicidad programada

• Crear y mantener entornos de compilación y pruebas que reproduzcan el entorno de producción y ofrezcan a los investigadores información de alta fidelidad antes de la implementación

• Establecer el control de versiones de los modelos, la gestión de artefactos y las capacidades de reversión para garantizar implementaciones seguras y reproducibles

• Colaborar con ingenieros de investigación para definir y aplicar criterios de calidad de los modelos antes de su promoción a producción

• Crear paneles de observabilidad que ofrezcan al equipo información en tiempo real sobre el estado de los modelos en todos los entornos

• Optimizar la infraestructura de servicio de modelos para mejorar la latencia, el rendimiento y la eficiencia de costos

Te encantará este puesto si

• Te entusiasma el desafío de poner en operación modelos de IA de vanguardia a escala de producción

• Crees que una excelente infraestructura convierte los avances de investigación en valor para los clientes

• Disfrutas diseñar sistemas automatizados, confiables y capaces de recuperarse por sí solos

• Quieres trabajar en problemas en los que reducir la latencia por minutos o mejorar la precisión por puntos porcentuales tiene un impacto enorme

• Te gusta colaborar entre equipos de investigación e ingeniería para que toda la organización trabaje más rápido

• Te motiva crear los sistemas de implementación y pruebas que respaldan una plataforma que utilizan más de 200,000 desarrolladores

Es importante que tengas

• Más de 4 años de experiencia en MLOps, DevOps o ingeniería de infraestructura, con enfoque en sistemas de ML

• Sólido dominio de Python y experiencia creando automatizaciones y herramientas para flujos de trabajo de ML

• Amplia experiencia con sistemas de CI/CD y creación de pipelines para la entrega de software y modelos

• Experiencia práctica con Docker y Kubernetes para la administración de cargas de trabajo en contenedores

• Experiencia práctica en la implementación y el servicio de modelos de ML en entornos de producción

• Familiaridad con los procesos de evaluación, validación y aseguramiento de la calidad de modelos

• Comprensión de los principios de monitoreo y observabilidad aplicados a sistemas de ML

• Sólidas habilidades para resolver problemas y preferencia por la automatización en lugar de los procesos manuales

Sería excelente que también tuvieras

• Experiencia con frameworks para servir modelos, como NVIDIA Triton Inference Server, TensorRT u ONNX Runtime

• Experiencia en sistemas de ML para voz, audio o medios en tiempo real

• Experiencia con herramientas de infraestructura como código, como Terraform o Pulumi

• Experiencia práctica con conjuntos de herramientas de monitoreo y observabilidad (Prometheus, Grafana, Datadog o similares)

• Familiaridad con la optimización y la creación de perfiles de inferencia acelerada por GPU

• Experiencia con almacenes de características, control de versiones de datos o administración de metadatos de ML

• Conocimiento de estrategias de implementación canary y entrega progresiva para modelos de ML

Aviso: Tenemos conocimiento de personas que se hacen pasar por reclutadores de Deepgram. Todas las comunicaciones legítimas de reclutamiento de Deepgram provienen de una dirección de correo electrónico con el dominio @deepgram.com. Si recibiste un mensaje que afirma ser de Deepgram, reenvíalo a careers@deepgram.com.