Buoyant presentó Kinference, un proyecto abierto para coordinar solicitudes dirigidas a modelos vLLM en Kubernetes. La compañía reporta fuertes mejoras de latencia cuando las consultas comparten prefijos, aunque las cifras provienen de pruebas propias y la herramienta aún está en fase alfa. ***