OpenAI y Broadcom presentan Jalapeño, su chip de inferencia para LLM
OpenAI y Broadcom presentaron Jalapeño, un chip de inferencia diseñado desde cero para modelos de lenguaje. La apuesta busca reducir costos, mejorar latencia y darle a OpenAI más control sobre la infraestructura que sostiene ChatGPT, Codex, su API y futuros productos agentes. ***