Adopción inclusiva de la IA: estrategias para un futuro más equitativo

La inteligencia artificial (IA) es una tecnología disruptiva con el potencial de transformar todos los aspectos de nuestra vida, desde la forma en que trabajamos hasta como nos relacionamos con el mundo que nos rodea. Lo que nos plantea una serie de desafíos, entre los que se encuentran la limitada incorporación de principios éticos en su aplicación y los riesgos de discriminación y/o sesgo en sus decisiones.

Lo que nos lleva a identificar la inclusividad como la mejor alternativa para minimizar el impacto de estos desafíos en las soluciones. Una adopción inclusiva de la IA es aquella que garantiza que todos los grupos de la sociedad puedan beneficiarse de esta tecnología, independientemente de su raza, género, origen étnico, discapacidad o cualquier otra condición. Para lograrlo, es necesario tener en cuenta:

Diversidad

La Diversidad es fundamental para la adopción inclusiva de la IA, ya que promueve que las personas de diferentes orígenes y perspectivas puedan aportar sus visiones, experiencias, ideas y soluciones a los problemas que la IA ayuda a resolver. Por ejemplo, un equipo de desarrollo de IA diverso en términos de género, raza y origen étnico es más probable que desarrolle sistemas inclusivos y equitativos para todos los usuarios, gracias a su composición y aportaciones.

Ética

La ética es otro aspecto esencial para una adopción inclusiva de la IA. Los sistemas deben ser diseñados y utilizados de manera ética, respetando los derechos humanos y evitando la discriminación, al respetar la esencia de los valores humanos que sustenta la diversidad. Por ejemplo, los sistemas de IA utilizados para tomar decisiones sobre el empleo, la educación o la atención médica deben ser transparentes y auditables, y tener en cuenta el posible impacto de tendencias discriminatorias para prevenirlas.

Cultura organizacional

La cultura organizacional juega un papel protagónico para la adopción inclusiva de la IA que promueva de participación igualitaria. Las empresas deben evolucionar hacia una cultura inclusiva y diversa que promueva el uso de la IA con un sustento ético que permita a los trabajadores sentirse identificados y representados. Las organizaciones deben proporcionar formación sobre ética de la IA a sus trabajadores, y establecer políticas y procedimientos para garantizar su uso.

Estrategias para la adopción

A continuación, se presentan estrategias específicas que las empresas pueden aprovechar para promover una adopción inclusiva:

·         Incorporar la diversidad e inclusión en la estrategia de IA de la organización. La estrategia debe incluir objetivos específicos para promover estos valores. Por ejemplo, las empresas pueden establecer objetivos para aumentar la diversidad de sus equipos y/o cuadros de mando, o para garantizar que sus sistemas son respetuosos con los derechos humanos u ODS.

·         Realizar evaluaciones de impacto de la IA. Realizar evaluaciones de impacto de la IA para identificar posibles riesgos de discriminación y/o sesgos deben formar parte de las actividades recurrentes de la empresa. Considerando a los diferentes grupos de usuarios y stakeholders que utilizan los sistemas, y tomar en cuenta las implicaciones discriminatorias de los datos y procesos utilizados para entrenar los sistemas.

·         Promover la transparencia y la rendición de cuentas. Promoverlas en el desarrollo y uso de la IA, lo que requiere que las organizaciones sean transparentes sobre el cómo funcionan sus sistemas, y estar dispuestas a rendir cuentas por sus decisiones y soportes a cualquier grupo de interés.

·         Diseñar procesos de Control y Auditoría: Para las auditorías, la utilización de datos diversos y la prueba de los modelos en entornos no controlados forman parte crítica de la estrategia para promueva una adopción inclusiva de la IA. Estas estrategias y procesos ayudan a garantizar que los sistemas y diseños son justos y equitativos para todos los usuarios, evitando los sesgos.

·         Evaluaciones frecuentes de los sistemas: Realizar evaluaciones regulares de la comprensión, preparación y actitudes hacia la IA de todos los niveles de la organización, con el fin de ajustar las estrategias según las necesidades organizacionales, y desarrollar prácticas orientadas a incrementar el alfabetismo digital y la consciencia sobre sus beneficios.

Conclusiones

La adopción inclusiva de la IA es una tarea compleja, pero esencial para garantizar que esta tecnología beneficia a todos los grupos de la sociedad. Las organizaciones que implementen las estrategias descritas estarán mejor preparadas para promover una adopción de la IA que genere un futuro más equitativo para todos.

Ejemplo específico

Una visión de cómo las organizaciones pueden promover la diversidad en el desarrollo de IA es la iniciativa de Google AI llamada "AI for Social Good". Que tiene como objetivo utilizar la tecnología para abordar algunos de los desafíos más urgentes del mundo, como la pobreza, el hambre y la enfermedad. En ese documento comparte su compromiso a que sus equipos de desarrollo de IA sean diversos e inclusivos, y a que sus sistemas sean respetuosos con los derechos humanos.

Para promover la diversidad en sus equipos de desarrollo ofrecen becas y programas de formación a personas de grupos subrepresentados en el campo de la tecnología trabajando con organizaciones que promueven la diversidad y la inclusión en la tecnología. También están desarrollando herramientas y recursos para ayudar a los desarrolladores a crear sistemas inclusivos. Por ejemplo, han creado un conjunto de datos de imágenes y texto que representan a una amplia gama de grupos de personas. Este conjunto de datos puede ayudar a los desarrolladores de IA a entrenar sus sistemas para ser más inclusivos.

La iniciativa "AI for Social Good" es un ejemplo de cómo las organizaciones pueden promover una adopción inclusiva de la IA al enfocarse en la diversidad, ética y cultura