¿La Inteligencia Artificial puede perpetuar discriminaciones y sesgos por discapacidad?
El Real Patronato sobre Discapacidad auspició el estudio «Impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad», que hizo interesantes revelaciones.
15 de junio de 2023
Redacción Yo También
En los últimos meses pero con acento en semanas recientes, el tema de la Inteligencia Artificial (IA) ha inundado medios y cuanta plataforma digital existe. Las inquietudes son diversas y abarcan desde sus beneficios y avances hasta las preocupaciones y riesgos que conlleva.
¿Tiene en cuenta a las personas con discapacidad (pcd)? ¿Está reproduciendo patrones de opresión y de exclusión? Así como éstas son algunas de las preguntas a las que quiere responder un estudio del Real Patronato sobre Discapacidad.
Porque la IA también reproduce palabras como lisiado, inválido y tullido y podría replicarlas en cualquier texto o aplicación, sin tener en cuenta su connotación negativa y la discriminación que puede perpetuarse hacia las pcd y vulnerar los derechos consagrados en la Convención que les ampara.
Todo ello lo ha querido analizar el Real Patronato sobre Discapacidad, dependiente del Ministerio de Derechos Sociales de España, en el estudio «Impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad«.
Los resultados de esta investigación, realizada con entrevistas a 864 pcd con la asistencia técnica de la Fundación ONCE, muestran que si bien el 99.9 por ciento de las encuestadas conocen productos de inteligencia artificial, sólo el 12.3 por ciento las usa, cita la agencia española de noticias EFE.
Tecnologías muy caras y complejas
La falta de accesibilidad de estos productos y el sobrecoste añadido son las barreras que impiden un mayor uso por parte de las personas con discapacidad.
«Algunas cosas muy útiles como la domótica son excesivamente caras», «Deberían ser gratuitas para personas con discapacidad» o «Las pensiones son muy bajas. No podemos permitirnos esta tecnología», son algunas de las respuestas de las personas encuestadas.
Otros de los obstáculos, según los encuestados, son la complejidad de las instrucciones y los menús de estas tecnologías que incluyen numerosos tecnicismos.
Por eso, piden «manuales que se entiendan para poder utilizarlos» o «hacerlo más fácil, ya que a veces no lo uso porque no lo entiendo», recalcan algunas respuestas.
Las personas encuestadas consideran que las tecnologías basadas en Inteligencia Artificial tienen en cuenta algunas discapacidades, pero no otras, y creen que deben ser accesibles para todos.
«Algunas personas sordas oyen ruidos y no entienden las palabras, sería importante poder aislar los ruidos», «Videos con subtítulos integrados y de buena calidad ortográfica y sintáctica» o «Llamadas telefónicas traducidas a texto», proponen.
Tecnología que reproduce patrones del pasado
La investigación recuerda que las personas con discapacidad han sido objeto de marginación histórica y actual, generando exclusión sistemática y estructural de acceso al poder, a los recursos y a las oportunidades, unos patrones de marginación impresos en los datos que dan forma a los sistemas de IA.
Entre los riesgos, argumenta el estudio, la IA «aprende gracias a enormes cantidades de datos, pero si en estos datos no hay ejemplos positivos de las personas con discapacidad, tenderá a subrepresentarlas, a ignorarlas y, por tanto, a discriminarlas».
«La administración pública debe estar vigilante para que, en este caso, no se nutra del capacitismo y vuelva a repetir los patrones de opresión y de exclusión»,
asegura el director general de Derechos de las Personas con Discapacidad y del patronato, Jesús Martín Blanco.
La Inteligencia Artificial tiene el potencial de hacer la vida más fácil y mejor a todas las personas, pero ¿también a las personas con discapacidad? La respuesta es sí, destaca el informe.
Redes sociales y búsqueda de empleo
Recuerda el informe que las tecnologías más utilizadas y las menos recurridas son:
Redes sociales – 90.5 por ciento. Para acceder a información de actualidad y comunicarse con amigos
Plataformas de empleo – 88.3 por ciento
Sistemas de transcripción para trabajar o tomar apuntes – 38.5 por ciento
Domótica – 25.5 por ciento. Para gestionar dispositivos en el hogar
En el caso de las personas con discapacidad desempleadas o en búsqueda activa de empleo, las plataformas de ofertas de empleo basadas en la Inteligencia Artificial son en muchas ocasiones inaccesibles, lo que dificulta su uso.
Además, señala que «los sistemas de IA actuales cuentan con la funcionalidad de detectar por medio de lectura de voz, reconocimiento facial y otros datos de comportamiento humano, cuando el candidato tiene, ha tenido o puede tener una deficiencia que genere una discapacidad».
«En la medida que las empresas no se vean forzadas a revelar el código con el cual se ha diseñado el sistema de IA, esta funcionalidad tecnológica pone en jaque a todo el sistema legal de antidiscriminación laboral vigente», asevera el estudio.
Los avances que se han generado en materia de empleabilidad de personas con discapacidad «pueden caer en saco roto si se afianza la tendencia actual de uso de sistemas de IA para llevar adelante los procesos de contratación de las grandes y medianas empresas», indica.
Por Redacción Yo También
Te interesa: