Ingeniero/a de aprendizaje automático aplicado para dispositivos de borde Applied ML Engineer - Edge Devices

### Descripción de la empresa [Deepgram](https://jobicy.com/company/deepgram) es la plataforma líder que sustenta la emergente economía de IA de voz, valorada en un billón de dólares, y proporciona API en tiempo real para convertir voz a texto (STT), texto a voz (TTS) y crear agentes de voz de nivel de producción a escala. Más de 200,000 desarrolladores y más de 1,300 organizaciones crean productos de voz «Powered by Deepgram», entre ellas Twilio, Cloudflare, Sierra, Decagon, Vapi, Daily, Cresta, Granola y Jack in the Box. Se accede a los modelos fundacionales de voz nativos de Deepgram mediante API en la nube o como software autohospedado y local, con precisión inigualable, baja latencia y eficiencia de costos. Con el respaldo de una reciente ronda Serie C liderada por inversionistas globales de primer nivel y socios estratégicos, Deepgram ha procesado más de 50,000 años de audio y transcrito más de 1 billón de palabras. No hay ninguna organización en el mundo que entienda mejor la voz que Deepgram. ### Ritmo operativo de la empresa En Deepgram, esperamos una mentalidad que priorice la IA: el uso y la comodidad con la IA no son opcionales; son esenciales para nuestra forma de operar, innovar y medir el desempeño. Se espera que cada integrante del equipo de Deepgram use y experimente activamente con herramientas avanzadas de IA, e incluso incorpore las suyas propias a su trabajo diario. Medimos la eficacia con la que se aplica la IA para obtener resultados, y el uso constante y creativo de las capacidades de IA más recientes es clave para tener éxito aquí. Los candidatos deben sentirse cómodos adoptando rápidamente nuevos modelos y modalidades, integrando la IA en sus flujos de trabajo y ampliando continuamente los límites de lo que estas tecnologías pueden hacer. Además, avanzamos al ritmo de la IA. El cambio es rápido, y puedes esperar que tu trabajo cotidiano evolucione igual de rápido. Es posible que este puesto no sea adecuado para ti si no te entusiasma experimentar, adaptarte, pensar sobre la marcha y aprender constantemente, o si buscas un trabajo muy prescriptivo con un horario tradicional de 9 a 5. ### Sobre el puesto Los modelos de voz de Deepgram están entre los más rápidos y precisos del mundo, y hoy los ejecutamos a escala en GPU NVIDIA. Cada vez más, nuestros clientes necesitan esos mismos modelos en hardware que no controlamos: aceleradores que no son NVIDIA, servidores de borde y plataformas integradas con sus propios entornos de ejecución de inferencia, conjuntos de operadores y limitaciones. El trabajo consiste en llevar los modelos de Deepgram a esas plataformas, con la menor cantidad posible de cambios al modelo y sin cambiar el paradigma del hardware. Como ingeniero/a de aprendizaje automático aplicado en el equipo de Ingeniería de Plataformas para Socios, trabajarás un nivel por encima del hardware. Tomarás un modelo de Deepgram tal como existe hoy y lo adaptarás para que funcione correcta y eficientemente dentro del paradigma existente de kernels y entorno de ejecución de la plataforma de destino: sustituir o modificar operadores, ajustar parámetros de arquitectura, elegir esquemas de cuantización y precisión, y validar la precisión y la latencia en el dispositivo real. Cuando un kernel estándar no sea suficiente, trabajarás con nuestros ingenieros de IA integrada, quienes escriben los kernels personalizados, y adaptarás el modelo a lo que construyan. También serás responsable del proceso de implementación que permite desplegar esos modelos adaptados en dispositivos de borde de forma repetible. Este no es un puesto de investigación ni de servicios en la nube. Es un puesto de aprendizaje automático aplicado al despliegue en el borde. Es ideal para un/a ingeniero/a sénior que ya haya lanzado modelos en hardware que no sea GPU o en dispositivos de borde y quiera hacerlo en muchas plataformas, o para un/a ingeniero/a de nivel staff que quiera definir cómo Deepgram adapta modelos de voz a nuevo hardware. Determinaremos el nivel según tu experiencia. ### Lo que harás - Adaptar modelos de voz de Deepgram a plataformas que no sean NVIDIA y a plataformas de borde, modificando la estructura y los parámetros del modelo para que funcionen con el conjunto de operadores, el entorno de ejecución y los kernels existentes del dispositivo de destino, con modificaciones mínimas. - Tomar decisiones sobre modelos del lado del servicio para dispositivos de borde: opciones de cuantización y precisión, sustitución de operadores, reescritura de grafos y ajustes de arquitectura que adapten un modelo a las limitaciones de un dispositivo sin sacrificar precisión ni latencia. - Validar cada adaptación en hardware real: crear pruebas comparativas de precisión, latencia, rendimiento y memoria para cada plataforma, y detectar regresiones antes que los clientes. - Crear la ruta de implementación para dispositivos de borde: empaquetado de modelos, procesos de conversión, control de versiones y entrega automatizada, para que implementar un modelo en un dispositivo nuevo sea un proceso repetible en lugar de algo personalizado cada vez. - Trabajar con ingenieros de IA integrada cuando un kernel estándar no sea suficiente: especificar lo que necesita el modelo y luego adaptarlo para que use el kernel personalizado que entreguen. - Colaborar con proveedores de plataformas y semiconductores en sus entornos de ejecución y cadenas de herramientas, y convertir el formato de modelo y las convenciones de operadores que esperan en una implementación funcional de Deepgram. - Comunicar las limitaciones de los dispositivos de borde a los equipos de Research e Impeller para que los modelos futuros sean más fáciles de adaptar, sin asumir por tu cuenta tareas de investigación ni de preparación central para producción. - A medida que crezca el equipo, asumir responsabilidades de producción relacionadas en dispositivos de borde: implementación automatizada, seguridad e integridad de modelos en hardware de clientes y observabilidad a nivel de flota. ### Te encantará este puesto si - Ya has tenido que ingeniártelas para ejecutar un modelo en hardware que no estaba diseñado para él y quieres hacerlo en muchas plataformas. - Prefieres modificar el modelo para adaptarlo al hardware en vez de modificar el hardware para adaptarlo al modelo, y sabes cuándo conviene cada opción. - Te importan las cifras medidas en el dispositivo, no las cifras del cuaderno de trabajo. - Te gusta conectar al equipo que escribe kernels con el equipo que entrena modelos. - Quieres lanzar productos para clientes, no publicar investigaciones. ### Es importante que tengas - Experiencia práctica implementando modelos de aprendizaje automático en producción en dispositivos de borde o hardware que no sea NVIDIA. **Este requisito es obligatorio.** La experiencia únicamente con servicios en la nube o GPU no es suficiente por sí sola. - Conocimientos prácticos de las ventajas y desventajas de la cuantización y la precisión (INT8, FP16, precisión mixta, calibración), y de cómo afectan la precisión y la latencia en dispositivos reales. - Experiencia con al menos un entorno de ejecución de inferencia para dispositivos de borde o de un proveedor y su cadena de herramientas de conversión (por ejemplo, ONNX Runtime, TFLite, ExecuTorch, OpenVINO, Qualcomm AI Engine o un SDK de NPU de un proveedor). - Capacidad para modificar un modelo a fin de adaptarlo a una plataforma: leer y reescribir grafos de modelos, sustituir operadores no compatibles y ajustar parámetros de arquitectura sin afectar la precisión. - Sólidos conocimientos de Python y PyTorch, y hábitos de ingeniería de calidad de producción: pruebas, reproducibilidad y pruebas comparativas que otras personas puedan volver a ejecutar. - Comodidad creando automatizaciones para la conversión y la implementación de modelos. - Mentalidad orientada a construir y comunicación clara: puedes definir el alcance de la adaptación para una plataforma desconocida y llevarla hasta obtener un resultado medible. ### Sería excelente que tuvieras - Experiencia específica con modelos de voz, audio o de transmisión/en tiempo real. - Experiencia con la escritura o lectura de kernels de bajo nivel (CUDA, Metal, NEON o código DSP de un proveedor), suficiente para colaborar estrechamente con ingenieros de sistemas integrados. - Experiencia con la seguridad o integridad de modelos en dispositivos desplegados: firma, almacenamiento cifrado de modelos y actualizaciones seguras. - Familiaridad con varias familias de aceleradores (Qualcomm, Apple, ARM, Intel, AMD o NPU personalizadas) y sus particularidades. - Antecedentes comprobables en la creación de herramientas internas que hayan acelerado de forma medible la adaptación o implementación de modelos. ***Aviso**: Sabemos que hay personas que se hacen pasar por reclutadores de Deepgram. Todas las comunicaciones legítimas de reclutamiento de Deepgram provienen de una dirección de correo electrónico con el dominio [deepgram.com](http://deepgram.com). Si recibiste un mensaje que afirma ser de Deepgram, reenvíalo a careers@deepgram.com.*