20 de septiembre de 2018

IBM. Detecta sesgos en decisiones de IA mediante nuevo servicio de nube

IBM ha presentado este miércoles un nuevo servicio de 'software' que se añade a su plataforma en la nube IBM Cloud que está orientada para su uso por parte de empresas y que es capaz de detectar sesgos en las decisiones tomadas por las herramientas basadas en la Inteligencia Artificial.
Las nuevas tecnologías tienen como objetivo proporcionar a las empresas una mayor transparencia respecto a la aplicación de la Inteligencia Artificial (IA), como ha informado IBM a través de un comunicado.
"Estamos facilitando a las empresas que utilizan la IA una mayor transparencia y control para afrontar el riesgo potencial de una toma de decisiones errónea", ha afirmado David Kenny, vicepresidente sénior de Soluciones Cognitivas de IBM.
El nuevo servicio de IBM detecta automáticamente los sesgos y proporciona la explicación sobre las decisiones que toma la IA. Funciona en tiempo real, y cuando detecta un sesgo recomienda soluciones para incorporar los datos a los modelos.
La herramienta proporciona explicaciones de fácil comprensión, junto con los factores que motivaron la decisión, la confianza y un registro de precisión. La información se muestra a las empresas través de cuadros de mando visuales.
Se construye a partir varios 'frameworks' de 'machine learning' y entornos personalizados de IA como Watson, Tensorflow, SparkML, AWS SageMaker y AzureML. Es posible personalizar su funcionamiento al programarlo para monitorizar aspectos distintos según el flujo de trabajo de la empresa.
Este servicio ya está disponible en IBM Cloud para ayudar a las empresas a administrar sistemas de IA de una amplia variedad de sectores, así como a través de IBM Services. Asimismo, IBM pondrá a disposición para la comunidad el kit de herramientas AI Fairness 360 de reducción y detección de sesgos en código abierto.
Fuente: Europa Press