Nueva norma internacional ofrecerá un marco de gestión de riesgos para la IA.


Publicidad

A medida que aumenta el uso y la aplicación de los sistemas de inteligencia artificial (IA), abordar el aspecto de confianza de estos sistemas es clave para una adopción generalizada.

Los ejemplos incluyen los efectos de los datos o el sesgo algorítmico, lo que garantiza la privacidad de los datos y también la falta de transparencia y responsabilidad.

IEC e ISO están desarrollando una nueva norma internacional que proporcionará directrices sobre la gestión del riesgo que enfrentan las organizaciones durante el desarrollo y la aplicación de técnicas y sistemas de IA. Ayudará a las organizaciones a integrar la gestión de riesgos para la IA en actividades y funciones importantes, así como a describir los procesos para la implementación e integración efectiva de la gestión de riesgos de la IA.

La aplicación de estas directrices podrá personalizarse a cualquier organización y su contexto.

Gestión de riesgos en el contexto de la IA.

Las nuevas tecnologías traen nuevos desafíos, donde lo desconocido es mayor que lo conocido. La gestión de riesgos puede ayudar a lidiar con la incertidumbre en áreas donde no se han establecido medidas de calidad reconocidas.

“Para un producto específico de AI o un servicio de AI, un proceso de administración de riesgos asegura que ‘por diseño’ a lo largo del ciclo de vida del producto o servicio, se identifiquen los interesados ​​con sus activos y valores vulnerables, se comprendan las amenazas potenciales y los riesgos, riesgos asociados con sus consecuencias o impacto), y se toman decisiones conscientes sobre el tratamiento de riesgos en función de los objetivos de la organización y su tolerancia al riesgo “, dijo Wael William Diab, Presidente de ISO / IEC JTC 1 / SC 42 , el comité técnico conjunto de IEC e ISO para inteligencia artificial .

En el caso de los sistemas de IA, la gestión de riesgos abordaría:

  • Diseñe las fallas y evalúe las amenazas y riesgos típicos asociados a los sistemas de IA con sus técnicas y métodos de mitigación, permitiendo la identificación, clasificación y tratamiento de los riesgos para (y por el uso de) los sistemas de AI.
  • Establecimiento de confianza en los sistemas de inteligencia artificial a través de la transparencia, verificabilidad, explicabilidad, controlabilidad, mediante el uso de un proceso de gestión de riesgos bien comprendido y documentado.
  • Robustez, resistencia, fiabilidad, precisión, seguridad, privacidad, etc. del sistema de AI al proporcionar transparencia al tratamiento de los riesgos para las partes interesadas identificadas.

¿Quién se beneficia?

BeneficiarioBeneficiosEjemplo de organizaciones / empresas
Industria y comercio (grande)Aumentar la confianza en el uso de soluciones basadas en la inteligencia artificial en general. Los 

proveedores pueden aumentar la aceptación en el mercado de tales soluciones al documentar la gestión adecuada de riesgos durante el diseño, desarrollo y despliegue de sus productos. 

Los clientes pueden usar el estándar para implementar procesos apropiados para lidiar con los riesgos del uso de tecnologías basadas en AI.
Proveedor que ofrece modelos de aprendizaje automático capacitados 

Proveedor que ofrece servicios basados ​​en AI 

Cualquier industria que utilice Tecnologías de AI: tecnología, automoción, salud, industria aeroespacial, etc.  
Industria y comercio (PYMES)  Además de los beneficios mencionados anteriormente, se presentan nuevas oportunidades de mercado para las PYME al proporcionar herramientas y servicios relacionados con la gestión de riesgos.  Proveedores de servicios de evaluación para sistemas de inteligencia artificial (calidad, resistencia, robustez, etc.) 

Proveedores de herramientas de evaluación de componentes de inteligencia artificial
GobiernoLa gestión eficaz de riesgos permite el empleo de soluciones basadas en inteligencia artificial para servicios ciudadanos más eficientemente  Administraciones encargadas de: Mejor control del tráfico urbano con perfil ambiental optimizadoPlanificación urbana Monitorización / análisis del clima rural Control de la enfermedad
Los consumidoresAumentar la confianza en soluciones basadas en AI a través de una mayor responsabilidad, la prohibición de fugas de PII  Asistentes controlados por vozRecomendadores y asistencia para compras Hogares inteligentes
Órganos académicos y de investigación.La aplicación incrementada de soluciones basadas en IA depende de la disponibilidad de controles de riesgo efectivos. Esto crea incentivos de investigación para temas de relación de gestión de riesgos y AI en general.  
ONGsAumentar la confianza en la confiabilidad y la ausencia de sesgos aumenta la aplicabilidad de la IA para una variedad de ONG  ONG encargadas de: Análisis de rutas de migraciónMonitoreo ambientalControl de la enfermedad

Más sobre el estándar

La nueva norma se basa en los principios y directrices descritos en ISO 31000 (Gestión de riesgos – Directrices), que ayudan a las organizaciones con sus análisis y evaluaciones de riesgos. También proporciona una guía que surge cuando la IA se aplica a los procesos existentes en cualquier organización o cuando una organización proporciona un sistema de AI para que otros la utilicen. Este proyecto está previsto para proporcionar una plataforma y un marco para la estandarización de la confiabilidad.

ISO / CEI JTC 1 / SC 42 está desarrollando la propuesta de artículo de trabajo recientemente aprobada para la norma, como parte de su programa de trabajo integral que busca la estandarización de todo el ecosistema de AI.


Imagen de Adam Radosavljevic de Pixabay.

Fuente: blog.iec.ch

Publicidad

Responder

Por favor, inicia sesión con uno de estos métodos para publicar tu comentario:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.