Cloudera y NVIDIA permiten a las organizaciones optimizar los pipelines de datos complejas a escala al combinar las capacidades de gestión de datos de Cloudera con los servicios completos de NVIDIA:
Procesamiento de datos de Apache Spark en Cloudera y NVIDIA RAPIDS Accelerator de Apache Spark optimizan la ejecución de las cargas de trabajo de ingeniería de características e ingeniería de datos.
El despliegue de modelos AI/ML con Cloudera AI Inference y los microservicios NVIDIA NIM mejora el rendimiento y la latencia de los modelos de inteligencia artificial (AI) (tanto AI/ML tradicional como IA generativa).
La orquestación de IA agéntica con el AI-Q Blueprint de NVIDIA permite la integración de agentes de IA con datos privados y la interacción con otros sistemas a través de API.
Figura 1: Cloudera y NVIDIA aportan valor a lo largo de todo el ciclo de vida de la ciencia de datos.
En este blog, destacaremos tres casos de uso que muestran cómo, juntos, Cloudera y NVIDIA ofrecen valor con análisis e inteligencia artificial para las instituciones de servicios financieros.
El ciclo de vida del cumplimiento normativo contra el blanqueo de capitales y "conozca a su cliente" (AML/KYC) en las grandes organizaciones financieras es un proceso que requiere un uso intensivo de recursos informáticos. Esto se debe a la necesidad de integrar y estandarizar grandes volúmenes de datos en diversas actividades, tales como:
Resolución de entidades, que requiere la estandarización de datos transfronterizos sujetos a diferentes procesos de autorización de datos y obtenidos de una amplia gama de sistemas transaccionales y entidades externas (como transacciones con tarjetas de crédito, transferencias bancarias y mensajes SWIFT).
Consolidación de datos de varios sistemas AML/KYC que almacenan información en diferentes formatos, los cuales deben normalizarse en un esquema unificado y estructurarse en productos de datos (como los data marts de AML entre unidades de negocio).
Monitorización continua de transacciones e informes regulatorios que requieren el procesamiento de datos, su enriquecimiento y la aplicación de reglas.
Para muchos clientes de Cloudera que han implementado casos de uso de AML/KYC, Apache Spark desempeña un papel fundamental en la habilitación de estas cargas de trabajo analíticas. Apache Spark es un potente motor para la ingeniería de datos, que ofrece capacidades como la computación en memoria y el procesamiento distribuido. Sin embargo, el aumento en los volúmenes de transacciones y la creciente variedad de nuevas fuentes de datos para el cumplimiento de AML/KYC ejercen una presión adicional sobre la infraestructura informática existente, requiriendo un rendimiento aún mayor.
La biblioteca NVIDIA RAPIDS de Apache Spark transfiere operaciones específicas de procesamiento de datos de la CPU a la GPU de manera transparente, es decir, sin necesidad de modificar el código. Como resultado, los clientes de Cloudera han experimentado mejoras de rendimiento de hasta 20 veces al utilizar la biblioteca NVIDIA RAPIDS para cargas de trabajo de Apache Spark 3.0.
Dos de los mayores desafíos en la prevención del fraude son la explosión de los volúmenes de transacciones en pagos digitales y con tarjeta de crédito, así como la creciente sofisticación de las técnicas de fraude. Estos factores han provocado la contención de recursos y desafíos de escalabilidad para la inferencia de IA/ML, lo que hace necesaria la implementación de múltiples modelos de IA/ML componibles para abordar los métodos de fraude emergentes.
Para abordar estos desafíos, el servicio de inferencia de IA de Cloudera incluye NVIDIA NIM, diseñados para proporcionar inferencias de alto rendimiento, baja latencia y alto rendimiento para modelos de IA de prevención de fraude en la computación acelerada de NVIDIA. Por ejemplo, al utilizar NVIDIA NIM, el servicio Cloudera AI Inference puede ofrecer hasta seis veces más rendimiento para los modelos de PyTorch (usando la biblioteca Torch-TensorRT) y 2,5 veces más para los modelos de TensorFlow (usando la biblioteca TF-TensorRT), ambos ampliamente utilizados en la prevención del fraude en pagos.
Además, el servicio de inferencia de IA de Cloudera acelera las solicitudes de inferencia ejecutadas en la computación acelerada de NVIDIA al aprovechar la función de procesamiento dinámico por lotes de NVIDIA. Esta función permite combinar solicitudes de inferencia del lado del servidor, evitando la ineficiencia de procesar una solicitud a la vez, lo que deja gran parte de la GPU inactiva. Como resultado, el servicio de inferencia de IA de Cloudera con NVIDIA NIM mejora la utilización de la GPU, reduciendo los futuros gastos de capital de la GPU para satisfacer la creciente demanda de prevención del fraude.
La evaluación de crédito es una capacidad importante en la banca, que abarca muchas actividades de préstamo diferentes, como hipotecas, préstamos con tarjetas de crédito, banca comercial y financiación del comercio. Estos procesos han sido históricamente ineficientes debido a la cantidad de actividades involucradas en el proceso de originación, desde la presentación de solicitudes hasta la financiación, y los numerosos roles que participan en el proceso de toma de decisiones.
Aunque los modelos tradicionales de IA/ML pueden agilizar muchas actividades individuales en el flujo de trabajo de originación de préstamos, el proceso desde la perspectiva del cliente todavía parece lento y fragmentado. Aquí es donde la IA agéntica puede tener un impacto significativo: en este contexto, la IA agéntica puede reducir el esfuerzo necesario para recopilar, resumir información y redactar decisiones de crédito. También puede ofrecer una experiencia de préstamo personalizada y consistente al estandarizar las revisiones durante el proceso de aprobación. Además, puede ofrecer recomendaciones de productos personalizadas basadas en los comportamientos y patrones de gasto del cliente, con un flujo de trabajo de múltiples agentes que orquesta diversas herramientas, datos y agentes de IA.
Al aprovechar NVIDIA AI-Q Blueprint en la computación acelerada de NVIDIA con el servicio Cloudera AI Inference, las organizaciones bancarias pueden alcanzar esta visión transformadora. Por ejemplo, mediante el uso de AI-Q Blueprint, Cloudera puede coordinar un flujo de trabajo multiagente que incluye un asesor de préstamos personalizado basado en IA generativa, implementado en NVIDIA NIM, un agente de procesamiento de documentos basado en IA que aprovecha las técnicas de reconocimiento óptico de caracteres (OCR) y procesamiento del lenguaje natural (PLN), y herramientas de decisión crediticia existentes.
La potencia combinada de la plataforma de datos unificada y en la nube de Cloudera y las capacidades de hardware y software de NVIDIA ofrece una solución integral para el desarrollo de soluciones de IA agéntica.
Visita esta página para obtener más información sobre el servicio de inferencia de Cloudera AI.
Lee este whitepaper de Enterprise Strategy Group para conocer la propuesta de valor conjunta de Cloudera + NVIDIA.
This may have been caused by one of the following: