¿La Inteligencia Artificial puede perpetuar discriminaciones y sesgos por discapacidad?

El Real Patronato sobre Discapacidad auspició el estudio "Impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad", que hizo interesantes revelaciones.

En los últimos meses pero con acento en semanas recientes, el tema de la Inteligencia Artificial (IA) ha inundado medios y cuanta plataforma digital existe. Las inquietudes son diversas y abarcan desde sus beneficios y avances hasta las preocupaciones y riesgos que conlleva.

¿Tiene en cuenta a las personas con discapacidad (pcd)? ¿Está reproduciendo patrones de opresión y de exclusión? Así como éstas son algunas de las preguntas a las que quiere responder un estudio del Real Patronato sobre Discapacidad.

Porque la IA también reproduce palabras como lisiado, inválido y tullido y podría replicarlas en cualquier texto o aplicación, sin tener en cuenta su connotación negativa y la discriminación que puede perpetuarse hacia las pcd y vulnerar los derechos consagrados en la Convención que les ampara.

Todo ello lo ha querido analizar el Real Patronato sobre Discapacidad, dependiente del Ministerio de Derechos Sociales de España, en el estudio “Impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad“.

Los resultados de esta investigación, realizada con entrevistas a 864 pcd con la asistencia técnica de la Fundación ONCE, muestran que si bien el 99.9 por ciento de las encuestadas conocen productos de inteligencia artificial, sólo el 12.3 por ciento las usa, cita la agencia española de noticias EFE.

Tecnologías muy caras y complejas

La falta de accesibilidad de estos productos y el sobrecoste añadido son las barreras que impiden un mayor uso por parte de las personas con discapacidad.

“Algunas cosas muy útiles como la domótica son excesivamente caras”, “Deberían ser gratuitas para personas con discapacidad” o “Las pensiones son muy bajas. No podemos permitirnos esta tecnología”, son algunas de las respuestas de las personas encuestadas.

Otros de los obstáculos, según los encuestados, son la complejidad de las instrucciones y los menús de estas tecnologías que incluyen numerosos tecnicismos.

Por eso, piden “manuales que se entiendan para poder utilizarlos” o “hacerlo más fácil, ya que a veces no lo uso porque no lo entiendo”, recalcan algunas respuestas.

Las personas encuestadas consideran que las tecnologías basadas en Inteligencia Artificial tienen en cuenta algunas discapacidades, pero no otras, y creen que deben ser accesibles para todos.

“Algunas personas sordas oyen ruidos y no entienden las palabras, sería importante poder aislar los ruidos”, “Videos con subtítulos integrados y de buena calidad ortográfica y sintáctica” o “Llamadas telefónicas traducidas a texto”, proponen.

Tecnología que reproduce patrones del pasado

La investigación recuerda que las personas con discapacidad han sido objeto de marginación histórica y actual, generando exclusión sistemática y estructural de acceso al poder, a los recursos y a las oportunidades, unos patrones de marginación impresos en los datos que dan forma a los sistemas de IA.

Entre los riesgos, argumenta el estudio, la IA “aprende gracias a enormes cantidades de datos, pero si en estos datos no hay ejemplos positivos de las personas con discapacidad, tenderá a subrepresentarlas, a ignorarlas y, por tanto, a discriminarlas”.

“La administración pública debe estar vigilante para que, en este caso, no se nutra del capacitismo y vuelva a repetir los patrones de opresión y de exclusión”,

asegura el director general de Derechos de las Personas con Discapacidad y del patronato, Jesús Martín Blanco.

La Inteligencia Artificial tiene el potencial de hacer la vida más fácil y mejor a todas las personas, pero ¿también a las personas con discapacidad? La respuesta es sí, destaca el informe.

Redes sociales y búsqueda de empleo

Recuerda el informe que las tecnologías más utilizadas y las menos recurridas son:

  1. Redes sociales – 90.5 por ciento. Para acceder a información de actualidad y comunicarse con amigos
  2. Plataformas de empleo – 88.3 por ciento
  3. Sistemas de transcripción para trabajar o tomar apuntes – 38.5 por ciento
  4. Domótica – 25.5 por ciento. Para gestionar dispositivos en el hogar 

En el caso de las personas con discapacidad desempleadas o en búsqueda activa de empleo, las plataformas de ofertas de empleo basadas en la Inteligencia Artificial son en muchas ocasiones inaccesibles, lo que dificulta su uso.

Además, señala que “los sistemas de IA actuales cuentan con la funcionalidad de detectar por medio de lectura de voz, reconocimiento facial y otros datos de comportamiento humano, cuando el candidato tiene, ha tenido o puede tener una deficiencia que genere una discapacidad”.

“En la medida que las empresas no se vean forzadas a revelar el código con el cual se ha diseñado el sistema de IA, esta funcionalidad tecnológica pone en jaque a todo el sistema legal de antidiscriminación laboral vigente”, asevera el estudio.

Los avances que se han generado en materia de empleabilidad de personas con discapacidad “pueden caer en saco roto si se afianza la tendencia actual de uso de sistemas de IA para llevar adelante los procesos de contratación de las grandes y medianas empresas”, indica.

Por Redacción Yo También

Te interesa:

Lo último

Perfect World: el manga que expone los desafíos de una pcd

Adentrarse en los episodios de esta obra japonesa es darse la oportunidad de conocer la realidad de las personas que adquieren una discapacidad.

Yannick Hanfmann, el tenista con discapacidad auditiva que brilló en el ATP de Beijing

Carlos Alcaraz debuta en el ATP de Beijing frente a Yannick Hanfmann, un jugador alemán con sólo el 60 por ciento de audición, quien prácticamente juega en silencio. Así fue la contienda.

Menstruación: un proceso biológico natural que se complica por la pobreza en que viven mujeres con discapacidad

Algo tan común como la menstruación alcanza otra dimensión cuando confluyen interseccionalidades como la discapacidad y la pobreza.

Desmitificando la vivencia sexual en las personas con discapacidad

Dejar atrás prejuicios sobre la sexualidad en la discapacidad es fundamental para comprender que todas las personas, con discapacidad y sin ella, tienen derecho al placer.

Newsletter

Al suscribirte aceptas nuestros Términos y condiciones

Te puede interesar

Bullying y segregación: La dificultad de jóvenes sordos durante los años escolares

Varios testimonios de jóvenes estudiantes cuentan lo difícil que es para ellos pasar por la escuela cuando se vive acoso y exclusión de sus compañeros.

ChatGPT se convierte en compañero de conversación de personas con autismo

Varias personas que viven bajo el espectro autista han contado sus experiencias “conversando” con ChatGPT, el sistema de inteligencia artificial, y por qué lo encuentran tan cómodo. ¿Pero qué tan seguro es usarlo?

ONU nombrará Órgano de Alto Nivel sobre Inteligencia Artificial

Antonio Guterres, secretario general de ONU, incluye en su mensaje de apertura de la Asamblea General del organismo, una recomendación sobre el uso de la inteligencia artificial.

Denuncian expulsión de niño con autismo de primaria supuestamente inclusiva en Sinaloa

Jaqueline Rodríguez, madre de un niño con autismo, señaló que la escuela no estaba capacitada para atender a su hijo, pese a que le permitieron inscribirlo al primer año de primaria y cuenta con USAER.

Crean lupa con IA que convierte el texto en voz

El proyecto pensado para uso de personas con dislexia o con alguna condición que afecte la visión fue premiado por la Fundación Mapfre.