Ingeniero/a de IA integrada, modelos en el dispositivo Embedded AI Engineer, On-Device Models

Remoto (EE. UU.)
$219,300 – $274,100 por año
Tiempo completo
Publicado hace 7 horas

Traducción automática del anuncio original en inglés.

Postularse en Jobicy Guardar empleo

Se postulará en el sitio web original.

Sobre este empleo

Descripción general de la empresa

Deepgram es la plataforma líder que sustenta la emergente economía de Voice AI, valorada en un billón de dólares, y ofrece API en tiempo real para convertir voz en texto (STT), texto en voz (TTS) y crear agentes de voz de nivel de producción a gran escala. Más de 200,000 desarrolladores y más de 1,300 organizaciones crean ofertas de voz «Powered by Deepgram», entre ellas Twilio, Cloudflare, Sierra, Decagon, Vapi, Daily, Cresta, Granola y Jack in the Box. Se accede a los modelos fundacionales de voz de Deepgram mediante API en la nube o como software autohospedado y local, con una precisión inigualable, baja latencia y eficiencia de costos. Con el respaldo de una reciente ronda de financiación Serie C encabezada por destacados inversionistas globales y socios estratégicos, Deepgram ha procesado más de 50,000 años de audio y transcrito más de 1 billón de palabras. No hay ninguna organización en el mundo que entienda mejor la voz que Deepgram.

Ritmo operativo de la empresa

En Deepgram, esperamos una mentalidad centrada primero en la IA: el uso de la IA y la comodidad al trabajar con ella no son opcionales, sino fundamentales para nuestra forma de operar, innovar y medir el desempeño.

Se espera que todos los miembros del equipo de Deepgram usen y experimenten activamente con herramientas avanzadas de IA, e incluso que incorporen las propias a su trabajo cotidiano. Medimos la eficacia con la que se aplica la IA para obtener resultados, y el uso constante y creativo de las capacidades de IA más recientes es clave para tener éxito aquí. Los candidatos deben sentirse cómodos adoptando rápidamente nuevos modelos y modos de trabajo, integrando la IA en sus flujos de trabajo y ampliando continuamente los límites de lo que estas tecnologías pueden hacer.

Además, avanzamos al ritmo de la IA. El cambio es rápido y puedes esperar que tu trabajo cotidiano evolucione igual de rápido. Es posible que este puesto no sea adecuado si no te entusiasma experimentar, adaptarte, pensar con rapidez y aprender constantemente, o si buscas algo muy prescriptivo con un horario tradicional de 9 a 5.

Acerca del puesto

Los modelos de voz de Deepgram están entre los más rápidos y precisos del mundo, y contamos con una infraestructura sólida para ejecutarlos en GPU de NVIDIA. Nuestros clientes necesitan ejecutarlos en todo tipo de otros dispositivos: aceleradores que no sean de NVIDIA, SoC integrados, procesadores de aplicaciones móviles, DSP y NPU, así como dispositivos diseñados específicamente con límites estrictos de memoria, cómputo, temperatura y energía. Cuando los kernels estándar y el entorno de ejecución de una plataforma de destino no pueden ejecutar un modelo de Deepgram con suficiente eficacia, alguien tiene que trabajar por debajo de esas capas. Ese es el propósito de este puesto.

Como Ingeniero/a de IA integrada en el equipo de Ingeniería de Plataformas para Socios, trabajarás en la capa más baja de nuestra pila de computación de borde. Escribirás y optimizarás kernels y operadores personalizados para hardware específico, adaptarás modelos a las unidades de ejecución propias de cada dispositivo y realizarás la cuantización en el dispositivo de destino y los ajustes a nivel de ensamblador que los conjuntos de herramientas estándar no pueden ofrecer. Entregarás lo que desarrolles a los Ingenieros de ML Aplicado, quienes adaptarán los modelos de Deepgram a tus kernels. Tu trabajo es lo que hace viable una nueva plataforma de hardware para Deepgram.

Este puesto es ideal para un/a ingeniero/a sénior de sistemas integrados que ha dedicado su carrera a trabajar cerca del hardware y quiere enfocar esa experiencia en la IA de voz, o para un/a ingeniero/a de nivel staff que quiera definir cómo se incorporan los modelos de Deepgram a nuevos chips. El nivel se ajustará a tu experiencia.

Lo que harás

Escribir y optimizar kernels y operadores personalizados (C, C++, Rust y ensamblador o intrínsecos específicos de la plataforma) para aceleradores que no sean de NVIDIA, SoC integrados, DSP y NPU, cuando el conjunto de operadores estándar del proveedor no sea suficiente para los modelos de Deepgram.
Ser responsable de la optimización en el dispositivo de destino: adaptar modelos a las unidades de ejecución del dispositivo mediante cuantización, fusión de operadores, disposición de memoria y compilación específica de la arquitectura para cumplir con los límites de latencia, memoria, energía y temperatura.
Integrarte con conjuntos de herramientas de NPU/DSP de los proveedores y entornos de ejecución de inferencia de borde, y ampliarlos con operadores personalizados cuando el grafo no se adapte correctamente.
Entregar kernels y componentes del entorno de ejecución como bloques de construcción reutilizables que los Ingenieros de ML Aplicado puedan usar al adaptar modelos, con interfaces claras y restricciones documentadas.
Crear código del entorno de ejecución de alto rendimiento para entornos integrados, incluidos Linux integrado, sistemas bare-metal y plataformas RTOS.
Establecer procesos de evaluación comparativa y validación para cada plataforma en cuanto a latencia, precisión, consumo de energía, huella de memoria y utilización, y detectar regresiones antes del lanzamiento.
Colaborar con proveedores de chips y plataformas en la integración de SDK y el ajuste del rendimiento de bajo nivel para nuevos chipsets y plataformas de referencia.
Comunicar las limitaciones del hardware a los equipos de ML Aplicado e Investigación para que sea más fácil implementar diseños de modelos en dispositivos con recursos limitados.

Te encantará este puesto si

Te satisface profundamente lograr que un modelo grande funcione en hardware que nunca estuvo diseñado para ejecutarlo y, aun así, cumplir con los objetivos de precisión y latencia.
Recurres al perfilador y al manual de ISA antes de pensar en usar un chip más potente.
Preferirías escribir el kernel antes que esperar a que el proveedor lo publique.
Te importan los detalles que no aparecen en una prueba de rendimiento en la nube: el arranque en frío, el consumo de energía, la temperatura, la fragmentación de memoria y el comportamiento de la caché.
Prefieres problemas difíciles, con restricciones y que deban llevarse a producción, en lugar de investigación sin límites definidos.
Te importan los detalles que no aparecen en una prueba de rendimiento en la nube: el tiempo de arranque en frío, el consumo de energía, la temperatura y la fragmentación de memoria.

Es importante para nosotros que tengas

Experiencia entregando sistemas de producción en hardware con recursos limitados: sistemas integrados, dispositivos móviles, IA de borde o dispositivos pequeños de bajo consumo.
Sólido dominio de C, C++ y/o Rust, con experiencia escribiendo código de alto rendimiento para entornos con recursos limitados.
Experiencia práctica con la optimización de modelos para su implementación en dispositivos, incluida la cuantización, la poda, la destilación de conocimiento o la compilación específica de la arquitectura.
Familiaridad con entornos de ejecución de inferencia de borde (por ejemplo, ONNX Runtime, TensorRT, TFLite, ExecuTorch) y/o conjuntos de herramientas de NPU/DSP específicos de los proveedores.
Sólido conocimiento de la interacción entre hardware y software —arquitecturas de CPU/GPU/NPU/DSP, jerarquías de memoria, aritmética de punto fijo/entero y administración de energía— y de cómo afectan el rendimiento de la inferencia.
Experiencia trabajando cerca del hardware: entornos bare-metal o RTOS (por ejemplo, FreeRTOS, Zephyr), Linux integrado, o desarrollo para microcontroladores y SoC de borde.
Sólidas habilidades de comunicación y mentalidad de desarrollo: capacidad para definir el alcance de un problema de optimización ambiguo, llevarlo a un resultado medible y explicar claramente las ventajas y desventajas.

Sería excelente que también tuvieras

Experiencia en procesamiento de audio en tiempo real en plataformas integradas: canalizaciones de DSP, optimización de códecs de audio, detección de palabras de activación o escucha siempre activa, o inferencia de flujo continuo en microcontroladores y SoC de borde.
Conocimientos avanzados de técnicas de optimización de ML: esquemas de cuantización personalizados, inferencia de precisión mixta o búsqueda de arquitecturas neuronales para dispositivos de borde.
Experiencia en evaluación comparativa de hardware: comparación sistemática de aceleradores, SoC o GPU para perfiles de cargas de trabajo específicos.
Experiencia lanzando funciones de IA en productos de consumo a gran escala, y criterio para entender qué significa «calidad de producción» en un dispositivo alimentado por batería.
Familiaridad con conjuntos de herramientas de compilación y optimización de modelos, y con las ventajas y desventajas de cada uno en distintas plataformas de hardware.
Experiencia con prácticas seguras y confiables de implementación en dispositivos: firma de código, almacenamiento cifrado de modelos y mecanismos de actualización segura.

Aviso: Sabemos que hay personas que se hacen pasar por reclutadores de Deepgram. Todas las comunicaciones legítimas de reclutamiento de Deepgram provienen de una dirección de correo electrónico con el dominio deepgram.com. Si recibiste un mensaje que afirma ser de Deepgram, reenvíalo a careers@deepgram.com.

Anuncio original en inglés

Company Overview

Deepgram is the leading platform underpinning the emerging trillion-dollar Voice AI economy, providing real-time APIs for speech-to-text (STT), text-to-speech (TTS), and building production-grade voice agents at scale. More than 200,000 developers and 1,300+ organizations build voice offerings that are ‘Powered by Deepgram’, including Twilio, Cloudflare, Sierra, Decagon, Vapi, Daily, Cresta, Granola, and Jack in the Box. Deepgram’s voice-native foundation models are accessed through cloud APIs or as self-hosted and on-premises software, with unmatched accuracy, low latency, and cost efficiency. Backed by a recent Series C led by leading global investors and strategic partners, Deepgram has processed over 50,000 years of audio and transcribed more than 1 trillion words. There is no organization in the world that understands voice better than Deepgram.

Company Operating Rhythm

At Deepgram, we expect an AI-first mindset—AI use and comfort aren’t optional, they’re core to how we operate, innovate, and measure performance.

Every team member who works at Deepgram is expected to actively use and experiment with advanced AI tools, and even build your own into your everyday work. We measure how effectively AI is applied to deliver results, and consistent, creative use of the latest AI capabilities is key to success here. Candidates should be comfortable adopting new models and modes quickly, integrating AI into their workflows, and continuously pushing the boundaries of what these technologies can do.

Additionally, we move at the pace of AI. Change is rapid, and you can expect your day-to-day work to evolve just as quickly. This may not be the right role if you’re not excited to experiment, adapt, think on your feet, and learn constantly, or if you’re seeking something highly prescriptive with a traditional 9-to-5.

About the Role

Deepgram's speech models are among the fastest and most accurate in the world, and we have deep machinery for running them on NVIDIA GPUs. Our customers need them on everything else: non-NVIDIA accelerators, embedded SoCs, mobile application processors, DSPs and NPUs, and purpose-built devices with tight memory, compute, thermal, and power budgets. When a target platform's standard kernels and runtime can't run a Deepgram model well enough, someone has to go below them. That is this role.

As an Embedded AI Engineer on the Partner Platform Engineering team, you work at the lowest layer of our edge stack. You write and optimize custom kernels and operators for specific hardware, collapse models onto device-specific execution units, and do the target-side quantization and assembly-level tuning that standard toolchains can't. You hand what you build up to Applied ML Engineers, who fit Deepgram models to your kernels. Your work is what makes a new hardware platform viable for Deepgram at all.

This role is a great fit for a senior embedded engineer who has spent their career close to the metal and wants to point that at speech AI, or a staff-level engineer who wants to define how Deepgram's models get onto new silicon. We'll set the level to your experience.

What You'll Do

Write and optimize custom kernels and operators (C, C++, Rust, and platform assembly or intrinsics) for non-NVIDIA accelerators, embedded SoCs, DSPs, and NPUs where the vendor's standard operator set is insufficient for Deepgram models.
Own target-side optimization: collapse models onto device execution units through quantization, operator fusion, memory layout, and architecture-specific compilation to meet latency, memory, power, and thermal budgets.
Integrate with vendor NPU/DSP toolchains and edge inference runtimes, and extend them with custom operators when the graph doesn't map cleanly.
Deliver kernels and runtime components as reusable building blocks that Applied ML Engineers can target when adapting models, with clear interfaces and documented constraints.
Build performance-critical runtime code for embedded environments, including embedded Linux, bare-metal, and RTOS targets.
Establish per-platform benchmarking and validation for latency, accuracy, power, memory footprint, and utilization, and catch regressions before they ship.
Partner with silicon and platform vendors on SDK integration and low-level performance tuning for new chipsets and reference platforms.
Feed hardware constraints back to Applied ML and Research so model designs are easier to land on constrained targets.

You'll Love This Role If You

Find deep satisfaction in making a large model run on hardware that was never meant to run it, and still hitting accuracy and latency targets.
Reach for the profiler and the ISA manual before you reach for a bigger chip.
Would rather write the kernel than wait for the vendor to ship it.
Care about the details that don't show up in a cloud benchmark: cold start, power draw, thermals, memory fragmentation, cache behavior.
Prefer hard, constrained, ship-it problems over open-ended research.
Care about the details that don't show up in a cloud benchmark: cold-start time, power draw, thermals, and memory fragmentation.

It's Important To Us That You Have

Experience delivering production systems on resource-constrained hardware — embedded systems, mobile, edge AI, or small low-power devices.
Strong proficiency in C, C++, and/or Rust, with experience writing performance-critical code for constrained environments.
Hands-on experience with model optimization for on-device deployment, including quantization, pruning, knowledge distillation, or architecture-specific compilation.
Familiarity with edge inference runtimes (e.g., ONNX Runtime, TensorRT, TFLite, ExecuTorch) and/or vendor-specific NPU/DSP toolchains.
A strong understanding of hardware-software interaction — CPU/GPU/NPU/DSP architectures, memory hierarchies, fixed-point/integer arithmetic, and power management — and how they affect inference performance.
Experience working close to the metal: bare-metal or RTOS environments (e.g., FreeRTOS, Zephyr), embedded Linux, or microcontroller and edge SoC development.
Strong communication skills and a builder mindset — you can scope an ambiguous optimization problem, drive it to a measurable result, and explain the tradeoffs clearly.

It Would Be Great if You Had

Experience with real-time audio processing on embedded platforms — DSP pipelines, audio codec optimization, wake-word or always-on listening, or streaming inference on microcontrollers and edge SoCs.
Depth in ML optimization techniques — custom quantization schemes, mixed-precision inference, or neural architecture search for edge targets.
Background in hardware evaluation and benchmarking — systematically comparing accelerators, SoCs, or GPUs for specific workload profiles.
Experience shipping AI features in consumer products at scale, and the instinct for what "production quality" means on a battery-powered device.
Familiarity with model compilation and optimization toolchains and their tradeoffs across hardware targets.
Experience with secure, robust on-device deployment practices — code signing, encrypted model storage, and safe update mechanisms.

Notice: We're aware of individuals impersonating Deepgram recruiters. All legitimate Deepgram recruiting communication comes from an @deepgram.com email address. If you've received a message claiming to be Deepgram, please forward it to careers@deepgram.com.

Los empleadores en JOBUS nunca le pedirán pagar, comprar equipo ni compartir datos bancarios o de Seguro Social antes de una oferta formal. Confianza y seguridad

Reportar este empleo