Presentan guía para IA y derechos de los ciudadanos

La Casa Blanca presento un proyecto que tiene como objetivo establecer una serie de derechos de los ciudadanos en relación a la implementación de los sistemas de inteligencia artificial. El documento funciona como una guía, ofrece una serie de lineamientos, pero no supone por si mismo obligaciones. Aún así resulta interesante y podría tener un gran efecto en el mediano y largo plazo.

El modelo para un acta de los derechos relacionados con la IA (Blueprint for an AI Bill of Rights) tiene unas 73 páginas y se puede descargar en formato PDF.

Preocupaciones

El uso de los sistemas automatizados es descrito como uno de los grandes desafíos de la democracia. Se señala que a menudo estos sistemas, que deberían estar al servicio del público, son empleados para limitar el acceso a servicios. También preocupa un empleo inseguro en la atención a personas enfermas, la reproducción de prejuicios y desigualdades y el exceso en la recolección de datos.

Principios

La propuesta del gobierno estadounidense tiene 5 principios básicos.

Derecho a ser protegido contra sistemas inseguros e inefectivos.

En este caso se trata de realizar las consultas adecuadas con todos los grupos que podrían ser impactados por la implementación de un sistema. Identificar riesgos. Llevar adelante pruebas antes de la implementación. Dentro de los posibles resultados debe considerarse la no implementación del sistema.

Los algoritmos no deben discriminar a las personas y deben diseñarse de una forma igualitaria.

Se rechaza la discriminación en base a sexo, edad, religión, origen, etnia, color de piel, etcétera. Esto es el tratamiento diferencial sin una justificación adecuada.

Los sistemas deben incorporar medidas de seguridad para prevenir el abuso en la recolección y uso de datos.

Lo interesante no es en sí la idea de que las personas tienen derecho a la privacidad. Lo que destaca es que las protecciones no deben depender exclusivamente de las políticas y el buen manejo de los operadores. También se establecen limitaciones de uso, tales como la no aplicación de sistemas de vigilancia y control en el trabajo y las escuelas.

Derecho a saber cuando un sistema automatizado está siendo utilizado, cómo, por que razones y que impacto tiene.

Lo dicho implica la necesidad de notificar a tiempo a las personas y ofrecer explicaciones en lenguaje llano.

Derecho a ser excluido por propia voluntad de los sistemas automatizados en favor de alternativas guiadas solo por seres humanos y obtener una solución rápida a los problemas enfrentados.

Todo esto cuando sea apropiado. Una aclaración que deja cierto margen para interpretaciones. Pero en general, la idea es proteger a las personas del daño que pudieran causar estos sistemas y darles la posibilidad de rechazarlos.

RU

Queremos seguir creando cursos gratuitos en nuestro canal de YouTube. Solo te pedimos tu ayuda para crecer más. Suscríbete por favor. (Cursos, talleres y charlas gratis para ti).

Ernesto Mota
Ernesto Mota
Nací en el d.f., sigo siendo defeño, hoy radico en la hermosa ciudad de Cuernavaca, Morelos, soy Ing. en Sistemas computacionales, con un posgrado en Tecnologías de información, Doctorando en ambientes virtuales de aprendizaje y realidad aumentada, Tecnólogo es mi categoría laboral, y mi linea de investigación es la realidad aumentada aplicada a nuevos entornos de aprendizaje.

Últimos artículos

a

Publicasciones relaciodadas

CURSOS PROFESIONALES DE TECNOLOGÍA VER CURSOS
¿Quieres ganar una membresía anual? ¡Claro!