Desde su presentación en Lima durante el Red Hat Summit: Connect de setiembre, Red Hat dejó claro que su enfoque está en optimizar la implementación de inteligencia artificial (IA) en sus clientes. En ese camino está la actualización de su plataforma de aprendizaje automático OpenShift AI, con mejoras en la flexibilidad y la escalabilidad de la IA.
La actualización llega unida al anuncio de la versión Red Hat Enterprise Linux 9.5 luego de 24 años en el mercado. Esta nueva versión viene con funciones mejoradas de gestión de archivos y actualizaciones de múltiples paquetes, buscando la automatización y flexibilidad.
Según informaron, Red Hat OpenShift AI 2.15 contará con capacidades optimizadas de ajuste y seguimiento para la creación e implementación de aplicaciones preparadas para IA a escala en entornos de nube híbrida. Con esto buscarán facilitar los trabajos con IA de los usuarios.
En esa misma línea está la reciente adquisición de Neural Magic, una empresa de software y algoritmos que aceleran las cargas de trabajo de inferencia de la IA generativa (GenAI, por sus siglas en inglés). Esta semana anunciaron que firmaron un acuerdo definitivo para adquirirla.
Neural Magic surgió del MIT en 2018 con el objetivo de crear software de inferencia de alto rendimiento para el deep learning o aprendizaje profundo. Con la tecnología y la experiencia en ingeniería de rendimiento de Neural Magic, Red Hat pretende acelerar su visión del futuro de la IA, impulsada por el portfolio de tecnologías de Red Hat AI.
Según detallaron, la experiencia de Neural Magic en ingeniería de rendimiento de inferencia y el compromiso con el código abierto se identifican con la visión de Red Hat de lograr cargas de trabajo de IA de alto rendimiento que se correspondan directamente con casos de uso y datos específicos del cliente en cualquier lugar de la nube híbrida.
Según informaron, Red Hat OpenShift AI 2.15 contará con capacidades optimizadas de ajuste y seguimiento para la creación e implementación de aplicaciones preparadas para IA a escala en entornos de nube híbrida.
«Las cargas de trabajo de la IA deben poder ejecutarse dondequiera que residan los datos de los clientes en la nube híbrida. Esto hace que las plataformas y herramientas abiertas, flexibles y estandarizadas sean una necesidad, ya que permiten que las organizaciones seleccionen los entornos, los recursos y las arquitecturas que mejor se adecuen a sus necesidades operativas y de datos particulares», indicó Matt Hicks, presidente y CEO, Red Hat.
El objetivo de Red Hat, dijeron, es abordar estos problemas y hacer que la GenIA sea más accesible para más organizaciones a través de la innovación abierta de vLLM, un proyecto open source impulsado por la comunidad para el servicio de modelos abiertos y desarrollada por UC Berkeley.
El liderazgo tecnológico de Neural Magic en vLLM, añadieron, potenciará la capacidad de Red Hat AI de admitir implementaciones de LLM en cualquier lugar de la nube híbrida con una pila de inferencia abierta, altamente optimizada y lista para usar.
Sepa más: Red Hat e IBM han creado el proyecto InstructLab que permite a cualquier persona definir el futuro de la IA generativa a través de la mejora colaborativa de los LLM Granite con licencia de código abierto mediante el uso de la tecnología de ajuste fino de InstructLab.
