{"id":808,"date":"2021-03-16T19:14:35","date_gmt":"2021-03-16T19:14:35","guid":{"rendered":"https:\/\/sandbox.cliento.mx\/jorgeprezcolinmx\/?p=808"},"modified":"2021-03-16T19:14:45","modified_gmt":"2021-03-16T19:14:45","slug":"reconocimiento-facial-y-racismo","status":"publish","type":"post","link":"https:\/\/sandbox.cliento.mx\/jorgeprezcolinmx\/reconocimiento-facial-y-racismo\/","title":{"rendered":"Reconocimiento facial y racismo"},"content":{"rendered":"\n

El uso de tecnolog\u00edas de reconocimiento facial est\u00e1 cada vez m\u00e1s extendido en los sectores p\u00fablico y privado. Por ende, es importante reflexionar acerca de las cuestiones \u00e9ticas que esto conlleva, en particular las relacionadas a un tema tan sensible e importante como el racismo.<\/p>\n\n\n\n

La meta de la inteligencia artificial aplicada al reconocimiento facial es que ayude a detectar la identidad de una persona a partir de im\u00e1genes digitalizadas, ya sea mediante las que cualquiera sube a sus redes sociales o a partir de las que captan las miles de c\u00e1maras de vigilancia alrededor del mundo.<\/p>\n\n\n\n

No obstante, cabe recordar que los algoritmos aplicados en estas y otras tecnolog\u00edas no surgieron por s\u00ed solos, sino que fueron concebidos y desarrollados por un grupo de expertos con determinados valores, motivaciones, objetivos e ideas preconcebidas.<\/p>\n\n\n\n

Sesgos sist\u00e9micos<\/h2>\n\n\n\n

La neutralidad en el reconocimiento facial no existe en la actualidad. Su funcionamiento depende de los datos que lo alimentan y las variables que toma en cuenta<\/strong>; es decir, tiene un origen humano, lo cual implica que las decisiones que efect\u00faa no son del todo aut\u00f3nomas.<\/p>\n\n\n\n

Por ejemplo, en los sistemas m\u00e9dicos de Estados Unidos existen disparidades originadas por sesgos de raza. En consecuencia, es muy probable que las aplicaciones de inteligencia artificial est\u00e9n ampliando la brecha de discriminaci\u00f3n racial, m\u00e1s a\u00fan si son dise\u00f1adas y utilizadas por las personas con ideas y actitudes racistas.<\/p>\n\n\n\n

Aunado a lo anterior, cabe mencionar que los sesgos que tienen estas tecnolog\u00edas trascienden las intenciones personales de sus creadores. En general, son un reflejo de las estructuras pol\u00edticas y econ\u00f3micas<\/strong>, as\u00ed como de la forma en la que est\u00e1 organizada la sociedad y del tipo de relaciones, prejuicios y hechos que en ella se suscitan.<\/p>\n\n\n\n

Reconocimiento racial<\/h2>\n\n\n\n

La lucha antirracial tiene su basti\u00f3n m\u00e1s visible en el movimiento Black Lives Matter<\/strong>, cuya presencia en los Estados Unidos sigue creciendo con el objetivo de exigir que acaben los actos racistas que lleva a cabo el gobierno<\/strong>, especialmente a trav\u00e9s de sus grupos policiales.<\/p>\n\n\n\n

Est\u00e1 comprobado que en varias de las manifestaciones p\u00fablicas de este movimiento los departamentos de polic\u00eda de Nueva York, Miami y Washington han utilizado el reconocimiento facial como m\u00e9todo de vigilancia, control y detenci\u00f3n de los asistentes. Lo mismo sucedi\u00f3 en la toma del Capitolio, como lo mencionamos recientemente<\/a>.<\/p>\n\n\n\n

Este tipo de tareas se han llevado a cabo mediante plataformas que no siempre tienen la suficiente transparencia y supervisi\u00f3n p\u00fablica<\/strong>. Tal es el caso de ClearviewAI, que brinda servicio a poco m\u00e1s de dos mil agencias del gobierno estadounidense, entre ellas el Departamento de justicia y el Servicio de Inmigraci\u00f3n y Control de Aduanas.<\/p>\n\n\n\n

Por otro lado, empresas como IBM y Microsoft<\/strong> han fijado una postura clara: decidieron no usar m\u00e1s la tecnolog\u00eda de reconocimiento facial, e incluso desaconsejaron su uso<\/strong> puesto que han visto que es usada bajo sesgos racistas que violan los derechos humanos<\/a>.<\/p>\n\n\n\n

De acuerdo con un estudio del MIT Media Lab<\/a>, el problema del reconocimiento facial radica en que si bien suelen tener una precisi\u00f3n aproximada de 90%, 9 de cada 10 errores que comete es con personas de piel oscura<\/strong>.<\/p>\n\n\n\n

Informaci\u00f3n es poder<\/h2>\n\n\n\n

La sociedad civil y la iniciativa privada tienen que ocuparse de estos temas, involucrarse en ellos y hacer uso de su derecho a la informaci\u00f3n para solicitarle al gobierno en turno que transparente c\u00f3mo usa las tecnolog\u00edas de inteligencia artificial<\/strong>.<\/p>\n\n\n\n

Las consecuencias de una identificaci\u00f3n virtual err\u00f3nea, basada en prejuicios raciales, pueden ser m\u00faltiples pero todas muy da\u00f1inas para la persona que las sufra, por ejemplo:<\/p>\n\n\n\n