La empresa francesa Kog ha anunciado resultados de rendimiento que posicionan su motor de inferencia como una alternativa a soluciones de referencia como vLLM y TensorRT-LLM. Según sus propios datos, el motor alcanza una velocidad de generación de tokens hasta 3,5 veces superior en GPU AMD MI300X. El enfoque se centra en aplicaciones con baja latencia y procesamiento secuencial, y pretende ofrecer una opción más eficiente para desplegar modelos de lenguaje en entornos exigentes. El producto se presenta como una propuesta europea en un mercado dominado por actores estadounidenses.

Simular el pensamiento humano exige mucho más que software avanzado: requiere una revolución en el hardware. Aunque los ordenadores actuales son más rápidos y potentes que nunca, su arquitectura sigue anclada en un modelo diseñado en 1946. Esta limitación, conocida como el “cuello de botella de von Neumann”, es uno de los principales escollos que impiden a la inteligencia artificial alcanzar todo su potencial. A pesar de los avances con GPUs, procesadores DLP y sensores especializados, los investigadores coinciden: necesitamos una nueva generación de hardware.