etiqueta: Docker
N.O.M.A.D.: la IA para salvar Internet offline
Imagine un escenario donde la estabilidad de las comunicaciones globales se ve comprometida por ciberataques o desastres naturales. En este contexto, el acceso a la información se convierte en el recurso más valioso para la supervivencia y la toma de decisiones críticas. Project N.O.M.A.D., cuyas siglas significan Node for Offline Media, Archives, and Data, se presenta como una solución de ingeniería robusta diseñada para funcionar en aislamiento total. Desarrollado por Crosstalk Solutions, este proyecto de código abierto permite transformar hardware convencional en un nodo de conocimiento autónomo que integra inteligencia artificial, la Wikipedia completa y cartografía detallada sin necesidad de conectarse a la red.
Kog presenta alternativa europea a TensorRT
La empresa francesa Kog ha anunciado resultados de rendimiento que posicionan su motor de inferencia como una alternativa a soluciones de referencia como vLLM y TensorRT-LLM. Según sus propios datos, el motor alcanza una velocidad de generación de tokens hasta 3,5 veces superior en GPU AMD MI300X. El enfoque se centra en aplicaciones con baja latencia y procesamiento secuencial, y pretende ofrecer una opción más eficiente para desplegar modelos de lenguaje en entornos exigentes. El producto se presenta como una propuesta europea en un mercado dominado por actores estadounidenses.

