Las personas en puestos operativos necesitan saber qu\u00e9 impulsa sus modelos de anal\u00edtica del fraude, y la IA es un gran aliado.<\/p>\n
Por TJ Horan, vicepresidente de Gesti\u00f3n de Producto en FICO<\/em><\/p>\n Como profesional de software y pagos que se esfuerza por aplicar los cambios en un panorama de fraude en constante cambio, reconozco que suele existir una gran desconexi\u00f3n entre la innovaci\u00f3n anal\u00edtica, \u00e1rea de mi colega Scott Zoldi, director de Anal\u00edtica (CDAO, por sus siglas en ingl\u00e9s) en FICO, y las trincheras diarias de la guerra contra el delito financiero, mi \u00e1rea.<\/p>\n Scott es una de las fuerzas propulsoras de la inteligencia artificial (IA)<\/a> y la tecnolog\u00eda de decisiones que impulsan tanto FICO Falcon<\/a>\u00a0como una familia entera de soluciones de combate al fraude. Adem\u00e1s de encabezar el desarrollo de innovaciones como FICO Scam Detection Score<\/a>\u00a0y\u00a0las puntuaciones de antilavado de dinero de FICO<\/a>, redact\u00f3 el manual<\/a>\u00a0sobre c\u00f3mo las organizaciones pueden lograr una IA responsable<\/a>. Scott tambi\u00e9n ha creado m\u00e1s de 120 patentes de software<\/a>, varias de ellas relacionados con la IA.<\/p>\n Me reun\u00ed con Scott para hablar sobre c\u00f3mo los grupos de operaciones antifraude pueden beneficiarse de la tecnolog\u00eda de IA responsable y por qu\u00e9 es importante abordarla. A continuaci\u00f3n, muestro lo m\u00e1s destacado de nuestra conversaci\u00f3n.<\/p>\n Las personas en puestos operativos necesitan saber qu\u00e9 impulsa sus modelos de anal\u00edtica del fraude, pues es fundamental para su eficacia.<\/strong> Es por esto, en gran parte, que se usa la IA de forma \u00e9tica: para realmente entender los principales comportamientos detr\u00e1s de los modelos. Pero \u00bfqu\u00e9 significa esto?<\/p>\n Desarrollar modelos va m\u00e1s all\u00e1 de s\u00f3lo ingresar un gran volumen de datos en una red neuronal conectada<\/a>\u00a0y darle \u201creproducir\u201d: hay que observar el \u00e9nfasis del modelo (como transacciones con Tarjetas No Presentes (TNP); transacciones de alto valor, etc\u00e9tera), c\u00f3mo se desempe\u00f1a en diferentes tipos de fraude y si cambia su comportamiento entre cada modelo. Estudiamos los comportamientos latentes<\/a>\u00a0a los que el modelo es m\u00e1s \u2013o menos\u2013 sensible, y c\u00f3mo impactan. Conforme observamos las implicaciones de la IA responsable en el fraude, es importante entender el comportamiento de los datos que impulsan el modelo. Queremos programar para saber, en un entorno cambiante, c\u00f3mo se espera que funcione el modelo, o si debemos ajustarlo al ambiente de producci\u00f3n, y c\u00f3mo.<\/p>\n Como gerente en un equipo antifraude, es importante saber en qu\u00e9 se enfoca el modelo, y en qu\u00e9 no; a veces hay que pedir m\u00e1s informaci\u00f3n sobre los componentes de ciertos subsegmentos del modelo. Algunos clientes del modelo antifraude personalizado de FICO, por ejemplo, tienen 26 subcategor\u00edas distintas de rendimiento en \u00e9l, y preguntar\u00e1n sobre c\u00f3mo se comporta el modelo, pues est\u00e1 ligado a las estrategias y reglas que impulsan sus procesos de toma de decisiones. En FICO publicamos informes de los modelos, y subconjuntos de su rendimiento, para mostrar qu\u00e9 est\u00e1 cambiando los datos. La retroalimentaci\u00f3n de clientes y grupos de usuarios son importantes.<\/strong><\/p>\n Dada la madurez de nuestra empresa, sabemos que los modelos de anal\u00edtica de datos pueden desarrollarse de muchas formas y con diferentes comportamientos, pero con niveles similares de rendimiento. Desarrollamos modelos de forma responsable para no modificar de manera dr\u00e1stica sus comportamientos y que, as\u00ed, los procesos de decisiones sigan siendo consistentes.<\/strong><\/p>\n Es importante seguir enfocados en las \u00e1reas que deseamos mejorar. Como proveedores de modelos que los clientes utilizan dentro de sus sistemas de IA, nuestras versiones no pueden cambiar r\u00e1pidamente el comportamiento de un modelo y mantener el mismo nivel de detecci\u00f3n de fraude. Aunque suene contradictorio, es posible desarrollar un gran modelo que produzca malas decisiones, ya que el sistema de decisiones no se ajusta lo bastante r\u00e1pido a los cambios del modelo. Si eso sucediera, los sistemas de decisiones, las reglas y las estrategias estar\u00edan desalineados. Por ello, este di\u00e1logo consistente entre FICO y los clientes acerca de lo que desean enfatizar, y lo que debe mejorar, es la mejor manera de interactuar y evitar que el aprendizaje autom\u00e1tico sea una caja negra. Adem\u00e1s, ayuda a asegurar que el aprendizaje autom\u00e1tico que producimos no sea un \u201cproyecto acad\u00e9mico\u201d, sino que viva dentro de un sistema de decisiones.<\/p>\n Como nuestros clientes tienen reglas y estrategias para detectar transacciones TNP, tarjetas de cr\u00e9dito y cajeros autom\u00e1ticos transfronterizos, frecuencia, velocidad y m\u00e1s, quieren saber si el modelo mejorar\u00e1 su rendimiento y sensibilidad a ciertos tipos de comportamientos, o no. Tenemos mucha tecnolog\u00eda nueva de IA responsable que enfatiza m\u00e1s ciertos tipos de comportamientos fraudulentos, en los que buscamos que el modelo tenga un mejor desempe\u00f1o.<\/strong> Los clientes que usan modelos para banca minorista, por ejemplo, se han beneficiado de esta tecnolog\u00eda.<\/p>\n Utilizamos modelos estudiante-profesor para asegurar que el modelo nuevo no sea demasiado diferente al modelo anterior, a fin de evitar un impacto operativo en el sistema de decisiones. La mayor\u00eda de los clientes quieren que el modelo se perfeccione con el tiempo y en maneras que no afecten radicalmente la toma de decisiones. Eso es parte de lo que significa estar en control de la IA responsable. Tambi\u00e9n representa un uso \u00e9tico de los modelos de aprendizaje autom\u00e1tico.\u00a0 <\/strong><\/p>\n FICO se dedica desde hace 30 a\u00f1os a desarrollar procesos que garantizan la continuidad de los modelos<\/strong>. Podr\u00edamos simplemente tomar los datos m\u00e1s recientes, subirlos a la nube y generar un modelo, pero la forma en que el modelo se comporta podr\u00eda ser dr\u00e1sticamente diferente cada vez, lo que ocasionar\u00eda problemas operativos considerables y una ruptura en los sistemas antifraude. Este concepto asegura que las actualizaciones al modelo funcionen en armon\u00eda con el resto de las decisiones de IA que el cliente utilice. Es complicado y requiere tiempo. Debido a la forma en que el fraude se comete, los modelos necesitar\u00e1n cambiar con el tiempo y perfeccionarse, pero no tanto que los clientes tengan que rehacer sus reglas y estrategias cada vez que aparezca un nuevo modelo.<\/strong><\/p>\n En otras palabras, s<\/strong>i el vendedor no puede explicarles cu\u00e1les son los aspectos b\u00e1sicos del desarrollo del modelo de su anal\u00edtica de fraude, incluyendo c\u00f3mo se dio seguimiento a ese desarrollo, qu\u00e9 metodolog\u00eda se emple\u00f3 para desarrollarlo y qu\u00e9 precauciones se tomaron, es una se\u00f1al de alarma.<\/p>\n La capacidad de explicar los modelos es cada vez m\u00e1s necesario, porque forma parte del cumplimiento de normas y regulaciones, como es el caso del Reglamento General de Protecci\u00f3n de Datos (<\/strong>GDPR<\/a>, por sus siglas en ingl\u00e9s) en la cual <\/strong>todos necesitan contar con una estrategia donde los modelos sean interpretables\/explicables, los comportamientos sean evidentes y las explicaciones sean claras.<\/p>\n Este nivel de cumplimiento no necesariamente se aplica rigurosamente, pero pienso que las cosas est\u00e1n cambiando. Tendr\u00e1 que haber mucho m\u00e1s control sobre los sistemas de decisiones para cumplir el nivel m\u00e1s alto de explicaci\u00f3n como manera de reducir el sesgo.<\/strong> Puede ser abrumador, ya que muchos m\u00e9todos de IA explicables no tienen la capacidad de cumplir estos requerimientos de imparcialidad. Contamos actualmente con m\u00e9todos eficaces en nuestros modelos antifraude y pretendemos implementar tecnolog\u00edas a\u00fan m\u00e1s nuevas que se entrelacen profundamente con los algoritmos que producir\u00e1n puntuaciones.<\/p>\n Observo estos debates<\/a>, y para obtener el nivel de claridad necesario, podemos hablar de la regulaci\u00f3n IEEE 7000<\/a>, que b\u00e1sicamente afirma: \u201cNo se enfoque en desarrollar el mejor modelo, sino en desarrollar el modelo que cumpla el objetivo, que se pueda explicar y que, por lo tanto, sea lo m\u00e1s sencillo posible\u201d. Pienso que esa es una buena pr\u00e1ctica. Desarrollar bien un modelo de an\u00e1lisis de datos, en una manera que sea transparente para el desarrollador y m\u00e1s transparente para el usuario, beneficia tanto a la empresa como a los auditores.<\/strong><\/p>\n Por tal motivo, mis \u00faltimas 25 patentes<\/a>\u00a0se han enfocado en infraestructuras relacionadas con la IA responsable. Ahora necesitamos asegurar que implementemos t\u00e9cnicas como la\u00a0<\/strong>IA auditable<\/strong><\/a>, para poder aislar los comportamientos y entender qu\u00e9 son, as\u00ed como monitorear constantemente esos impulsores.<\/strong><\/p>\n Volviendo al tema del Covid, durante la pandemia confiamos en nuestros modelos antifraude. Simplemente explicamos a nuestros clientes c\u00f3mo ajustar ciertos umbrales para minimizar el volumen de casos. Aunque ellos cambiaron su comportamiento sobre las transacciones<\/a>\u00a0a causa del virus, los comportamientos principales en los cuales est\u00e1 basado el modelo no se modificaron. Observamos un aumento del 400% en fraude TNP, pero las capacidades de detecci\u00f3n de fraude<\/a>\u00a0del modelo se mantuvieron sin cambio. El hecho de que el modelo tuviera un buen desempe\u00f1o en medio de la confusi\u00f3n y los cambios conductuales tan profundos por los que atraves\u00e1bamos, con ajustes m\u00ednimos, demuestra el beneficio de contar con lo necesario a la mano en un modelo tan robusto que evolucionar\u00e1 correctamente.<\/p>\n","protected":false},"excerpt":{"rendered":" Las personas en puestos operativos necesitan saber qu\u00e9 impulsa sus modelos de anal\u00edtica del fraude, y la IA es un gran aliado. Por TJ Horan, vicepresidente de Gesti\u00f3n de Producto en FICO Como profesional de software y pagos que se esfuerza por aplicar los cambios en un panorama de fraude en constante cambio, reconozco que […]<\/p>\n","protected":false},"author":4,"featured_media":48661,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[128,11,30],"tags":[1093,1376,24],"class_list":["post-48660","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-software","category-soluciones","category-tendencias","tag-fico","tag-fraudes","tag-inteligencia-artificial"],"yoast_head":"\n\u00a0\u00bf<\/strong>Cu\u00e1l es el papel de la IA responsable en las operaciones antifraude?<\/em><\/strong><\/h3>\n
\u00bfCu\u00e1nta experiencia interna en inteligencia artificial se necesita?<\/em><\/strong><\/h3>\n
\u00bfC\u00f3mo se pueden ir mejorando los modelos de anal\u00edtica de datos?<\/em><\/strong><\/h3>\n
\u00bfPor qu\u00e9 es crucial que los modelos de anal\u00edtica de prevenci\u00f3n y gesti\u00f3n del fraude sean explicables? <\/em><\/strong><\/h3>\n
Finalmente, \u00bfqu\u00e9 hay del actual debate sobre el uso de los modelos interpretables?<\/em><\/strong><\/h3>\n