Abriendo la “caja negra” de la inteligencia artificial

Hace unos meses, Amazon utilizaba inteligencia artificial (IA) para su proceso de selección de personal e identificaron que la tecnología estaba excluyendo, por algún motivo, a mujeres para ciertos puestos. Debido a ello, la compañía decidió dejar de utilizar la IA en el proceso de selección hasta estudiar bien qué estaba pasando. En forma similar, podemos encontrar otros ejemplos donde el uso de la IA ha generado cuestionamientos sobre los algoritmos que tiene incluidos que le permite tomar una u otra decisión.

A la IA aún se le ve como una “caja negra” en la que no se sabe qué ocurre dentro, qué se programó y qué decisiones está tomando. Esto provoca que si bien se entiende que es una tecnología que revolucionará la forma de hacer negocios y la generación de valor en las organizaciones, muchos líderes de negocios aún no están convencidos de su adopción a lo largo de la cadena de valor de las empresas.

De acuerdo con la edición 22 de nuestra Global CEO Survey, el 86% de los CEO mexicanos está “muy de acuerdo” o “de acuerdo” en que la inteligencia artificial cambiará significativamente los negocios en los próximos 5 años.

Pese a que el convencimiento del potencial de esta tecnología es muy amplio, solo 38% de los CEO mexicanos comentó que tiene planes para introducir una iniciativa de este tipo de tecnología en su organización en los próximos 3 años, mientras que un 40% indicó que no tiene ninguna iniciativa al momento.

Hay que recordar que la IA aún está en sus inicios de desarrollo. El tipo de inteligencia artificial que repite con automatización lo que el humano hace, está bien comunicada y difundida. Pero cuando hablamos de modelos de decisión autónoma, el nivel de desarrollo es menor.

Hacer que la inteligencia artificial te hable

La IA no tiene porqué ser incomprensible, mediante la aplicación de modelos de validación, auditorías, alineamiento a regulaciones existentes, podemos explicar lo que hace la IA y cómo llega a sus conclusiones y lleva a cabo sus decisiones. Y si requerimos entrar en mayor profundidad en los pasos que lleva a cabo en cada acción, también es factible hacerlo.

Para enfrentar la complejidad que trae el entender lo que hace la IA, es necesario hacerla comprensible

Sin embargo, es importante ser práctico y eficiente cuando deseemos que la IA que operamos se vuelva comprensible para todos. Si bien es posible generar que la IA sea 100% “explicable”, el hacerlo puede incrementar en forma importante sus costos de desarrollo y operación, haciendo que el caso de negocio por el que decidimos implementarla ya no sea viable. Por ejemplo, aquella IA que soporte procesos de decisión de salud que puede afectar la vida del paciente deberá ser mucho más comprensible que aquella que recomiende productos a los consumidores.

La estrategia y la gente, por delante de la tecnología

Para cerrar la brecha en la adopción, es importante entender a la inteligencia artificial como un paraguas de tecnologías que aprenden y evolucionan de las interacciones con el medio donde operan, ya sean seres humanos, otros sistemas u otras aplicaciones.

La mayoría de la fuerza laboral aún no cuenta con las habilidades necesarias para gestionar soluciones de IA. Las personas son las que definirán cuál será la estrategia en inteligencia artificial. Si no estamos listos para entender y adoptar las tecnologías para que nos den valor, obviamente la adopción será menor.

Creemos que en escenarios económicos como el actual, las empresas que no se reinventan tendrán pérdidas en sus márgenes de operación de forma importante, y aquí es donde ayudan las tecnologías emergentes. No se necesitan inversiones a gran escala, sino hacerlas inteligentemente. Si alguna empresa no invierte en redefinir su modelo de negocio apalancado por tecnologías emergentes, porque piensa que es un año complicado, sin duda lo hará su competencia, pero no la tradicional. Los límites entre los sectores se están diluyendo y surgen competidores que antes no considerábamos, con diferentes conocimientos del mercado, otras capacidades y propuestas innovadoras.