Inferencia generativa de IA con servidores blade Cisco UCS serie X M7 / Procesadores Intel Xeon de 5a Generación

Descripción

Una solución basada en Cisco UCS con Intel® Xeon® procesadores escalables® y Cisco Nexus® ofrece una base atractiva y escalable para implementar IA generativa a escala. Esta arquitectura ofrece una combinación de:

• Rendimiento óptimo: Cisco UCS con procesadores escalables Intel Xeon con aceleradores de IA especializados y marcos de software optimizados mejora significativamente el desempeño y la escalabilidad de la inferencia. Los switches Cisco Nexus 9000 proporcionan un gran ancho de banda, baja latencia, mecanismos de administración de congestión y telemetría para satisfacer los exigentes requisitos de red de las aplicaciones de IA/ML.
• Arquitectura equilibrada: Cisco UCS sobresale tanto en computación de aprendizaje profundo como no profundo, fundamental para todo el proceso de inferencia. Este enfoque equilibrado conduce a un mejor rendimiento general y utilización de los recursos.
• Escalabilidad bajo demanda: Cisco UCS escala sin problemas según sus necesidades de inferencia generativa de IA. Agregue o elimine servidores, ajuste las capacidades de memoria y configure los recursos de manera automatizada a medida que sus modelos evolucionan y las cargas de trabajo crecen utilizando Cisco Intersight®.

El sistema modular Cisco UCS X-series y los servidores de bastidor C240 y C220 admiten procesadores escalables Intel Xeon de 5ª generación para que tenga la opción de ejecutar inferencia en el centro de datos o en el perímetro, utilizando un factor de forma modular o de bastidor.