El uso de inteligencia artificial es cada vez mayor en las empresas y la diversificación de su aplicación también, razones por las que las empresas han tenido que enfrentar otro tipo de retos, como el sesgo en los algoritmos o la necesidad de tener aprendizaje constante para evitar fallas en los sistemas.
De acuerdo a Martha González, responsable de Watson y Cloud en IBM Latinoamérica, parte de estos problemas es que muchas empresas usan la inteligencia artificial por la tendencia, pero pocos saben cómo funciona.
“En la empresa trabajamos en 22 países y tenemos 16 mil clientes que requieren de transparencia a la hora de tener los resultados de la herramienta. Saber cómo llega a una conclusión Watson o alguno de los sistemas de AI es algo que ahora será posible con Trust and Transparency, la nueva herramienta que tenemos”, apunta González.
La herramienta aborda la necesidad de una mayor transparencia en la toma de decisiones de la inteligencia artificial, incluida la detección del sesgo. Estas nuevas tecnologías permitirán a las empresas aprovechar esta tecnología, ya que les permite comprender cómo está tomando decisiones, y esta es la caja negra que se abre por primera vez.
En caso de que una empresa financiera se dedique a usar la inteligencia artificial para otorgar o no un crédito, ahora podrán responder a la pregunta de cómo se llegó a una conclusión, pues se tendrán a la mano los datos que se tomaron en cuenta para la conclusión.
El anuncio de este lanzamiento se produce el mismo día en que IBM publica su Estudio de Inteligencia Artificial 2018. La nueva investigación se basa en entrevistas con 5,000 directivos y líderes, examinando las barreras para la adopción de inteligencia artificial, como es el sesgo.
“A nivel competitivo, la solución es relevante para las empresas pues se rompe la caja negra del uso de inteligencia artificial y es posible tener más transparencia de su labor ante clientes”, apunta la representante de Watson en México.
Específicamente, la herramienta será capaz de:
- Cumplir con las regulaciones de GDPR
- Escanear y detectar automáticamente el sesgo y explicar cómo la inteligencia artificial toma decisiones y por qué las toma.
- Proporcionar continuamente explicaciones sobre cómo se toman las decisiones de inteligencia artificial, a medida que se realizan y en términos fáciles de comprender.
- Permitir que las organizaciones que usan la tecnología ayuden a mitigar el sesgo mediante la recomendación de ajustes.
Además las principales conclusiones del estudio de IBM devienen en que 82% de las empresas quieren adoptar la inteligencia artificial para aplicar en su infraestructura, seguridad, innovación, servicio al cliente y gestión de riesgo de sus compañías.
También revela que 60% de los líderes consultados están preocupados por las limitaciones regulatorias alrededor de este tema y admiten que carecen de los recursos y habilidades para aprovechar el uso de inteligencia artificial.
