{"id":976,"date":"2021-10-12T17:16:24","date_gmt":"2021-10-12T17:16:24","guid":{"rendered":"https:\/\/sandbox.cliento.mx\/jorgeprezcolinmx\/?p=976"},"modified":"2021-10-13T13:56:27","modified_gmt":"2021-10-13T13:56:27","slug":"problemas-retos-algoritmos-machine-learning","status":"publish","type":"post","link":"https:\/\/sandbox.cliento.mx\/jorgeprezcolinmx\/problemas-retos-algoritmos-machine-learning\/","title":{"rendered":"Problemas y retos de los algoritmos de machine learning"},"content":{"rendered":"\n

Los modelos de machine learning<\/strong> para empresas e instituciones han llegado para quedarse y cada vez toman m\u00e1s decisiones relacionadas con la vida cotidiana. Por ejemplo: calificar qui\u00e9n es sujeto a cr\u00e9dito, sugerir contenidos a los usuarios de internet y determinar cu\u00e1l es el lugar ideal para emprender un negocio<\/a>. En ese sentido, \u00bfcu\u00e1les son los perjuicios y retos de esta tecnolog\u00eda?<\/strong><\/p>\n\n\n\n

La democracia del algoritmo<\/h2>\n\n\n\n

Con el prop\u00f3sito de analizar y procesar toda la informaci\u00f3n que forma parte del Big Data<\/a>, cient\u00edficos y tecn\u00f3logos han tenido que construir e implementar algoritmos cada vez m\u00e1s sofisticados<\/strong>.<\/p>\n\n\n\n

Uno los principales beneficios que ha encumbrado a esta tecnolog\u00eda de inteligencia artificial<\/a> es su precisi\u00f3n para segmentar mercados<\/strong>, datos y usuarios. Ejemplo de ello son la focalizaci\u00f3n pol\u00edtica, la conducci\u00f3n aut\u00f3noma, el reconocimiento facial y el diagn\u00f3stico m\u00e9dico.<\/p>\n\n\n\n

Asimismo, los algoritmos<\/strong> tienden a reducir los costos operativos de una empresa<\/strong><\/a> a mediano y largo plazo. Y tambi\u00e9n permiten una mayor eficacia, ya que los trabajadores pueden dedicarse a tareas menos laboriosas y que s\u00ed requieren del aspecto humano.<\/p>\n\n\n\n

En ese sentido, estos modelos matem\u00e1ticos han cobrado mucho poder y, dada su capacidad de an\u00e1lisis y abstracci\u00f3n, de manera general se considera que sus resultados son objetivos y sus decisiones imparciales<\/strong>. A continuaci\u00f3n veremos si esto siempre es as\u00ed.<\/p>\n\n\n\n

Problemas relacionados con los algoritmos<\/h2>\n\n\n\n

Cathy O\u2019Neil es una doctora en matem\u00e1ticas y experta en Wall Street que ha sido cr\u00edtica con la democracia del algoritmo<\/strong>. En su libro Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy<\/em>, se\u00f1ala que en la actualidad hay poca transparencia<\/strong> acerca de estas herramientas.<\/p>\n\n\n\n

Ejemplo de ello es el uso de softwares de reconocimiento facial<\/a><\/strong>, los cuales tienen distintos sesgos porque suelen estar dise\u00f1ados y administrados por personas con ideas y actitudes racistas.<\/p>\n\n\n\n

O\u2019Neil tambi\u00e9n se\u00f1ala que la falta de regulaci\u00f3n<\/strong> de los algoritmos, debido a la excesiva confianza en ellos, termina por reforzar varias formas de discriminaci\u00f3n<\/strong>, entre las cuales destacan las de sexo, clase y religi\u00f3n.<\/p>\n\n\n\n

De hecho, considera que la arbitrariedad de los algoritmos crea c\u00edrculos viciosos <\/strong>que no permiten la movilidad social. Esto se debe a que califican como no aptas para alg\u00fan servicio p\u00fablico o privado a personas que, por distintas circunstancias de vida, no tienen los medios, las habilidades o el historial que se piden como requisitos.<\/p>\n\n\n\n

La autora se cuestiona por qu\u00e9 se permite que estas tecnolog\u00edas se apliquen de manera masiva y en distintos campos del conocimiento sin considerar contextos y circunstancias<\/strong>. De esa manera \u00fanicamente se refuerzan los prejuicios contra sectores desfavorecidos de la poblaci\u00f3n, lo cual aumenta la inequidad social.<\/p>\n\n\n\n

No obstante su pensamiento cr\u00edtico, la autora no pretende que los algoritmos se proh\u00edban o dejen de utilizarse, puesto que han mostrado su val\u00eda para automatizar diversas actividades y procesos productivos. Lo que plantea es regularlos, aplicarlos con cautela y bajo un criterio que no sacrifique el aspecto humano en aras de la eficiencia<\/strong>.<\/p>\n\n\n\n

<< La inequidad en la digitalizaci\u00f3n de la salud >><\/a><\/p>\n\n\n\n

Retos pendientes de los algoritmos<\/h2>\n\n\n\n

De acuerdo con Cathy O\u2019Neil, los modelos algor\u00edtmicos <\/strong>tienen que centrarse m\u00e1s en los procesos que en los resultados. Es decir, en asuntos en los que est\u00e1n involucradas las actividades cotidianas y hasta necesarias de las personas, estas herramientas no pueden simplemente emitir un juicio que encasille o revictimice<\/strong>.<\/p>\n\n\n\n

Otro asunto que los creadores de algoritmos tienen que considerar es la retroalimentaci\u00f3n<\/strong>, ya que si no cuentan con ella van a crear su propia versi\u00f3n descontextualizada, carente de empat\u00eda y maniquea de la realidad.<\/p>\n\n\n\n

As\u00ed como la tecnolog\u00eda realiza auditor\u00edas cuantitativas y cualitativas a las personas<\/strong>, es momento de que el proceso se invierta: existen al menos tres \u00e1mbitos en los que la sociedad tiene que involucrarse m\u00e1s y presionar para que los algoritmos sean transparentes<\/strong> en sus objetivos, m\u00e9todos, an\u00e1lisis y resultados:<\/p>\n\n\n\n