{"id":119171,"date":"2025-03-29T09:32:04","date_gmt":"2025-03-29T12:32:04","guid":{"rendered":"http:\/\/aluzerna.com.br\/?p=119171"},"modified":"2025-03-29T09:32:04","modified_gmt":"2025-03-29T12:32:04","slug":"imperdonables-e-inutiles-resultados","status":"publish","type":"post","link":"https:\/\/aluzerna.com.br\/?p=119171","title":{"rendered":"imperdonables e in\u00fatiles resultados"},"content":{"rendered":"
\"\"
\n| Reprodu\u00e7\u00e3o\/www |<\/span><\/h6>\n

\u25ef<\/span><\/p>\n

El lado oscuro del algoritmo<\/span><\/em><\/span><\/strong><\/p>\n

Algoritmo, una palabra para que los errores de los programadores sean aceptables<\/span><\/em><\/p>\n

por Alejandro Marc\u00f3 del Pont<\/span><\/em><\/p>\n

Vivimos en la \u00e9poca de los algoritmos. Las decisiones que afectan a nuestras vidas no est\u00e1n hechas por humanos, sino por modelos matem\u00e1ticos. Estos esquemas se dise\u00f1aron para permitirnos, entre otras cosas, ahorrar tiempo, pero adem\u00e1s se los populariz\u00f3 como procesos m\u00e1s justos y objetivos. Antes estas t\u00e9cnicas la resolv\u00edan seres humanos, trabajadores ineficientes, seg\u00fan el progreso por estar dotados de un c\u00famulo de problemas: familia, horarios, prejuicios, arbitrariedades, etc\u00e9tera, escarbando en monta\u00f1a de papel para obtener un \u00a1deficiente!<\/em> resultado.<\/span><\/p>\n

Gracias a estos imperdonables e in\u00fatiles resultados nos vendieron la innovaci\u00f3n, programas de computadora capaces de procesar miles de datos de manera r\u00e1pida e \u201cimparcial\u201d<\/em>. Nadie sabe bien cu\u00e1l es el objetivo del progreso, ni cu\u00e1l la prisa, menos a\u00fan la necesidad imperiosa del avance tecnol\u00f3gico. Como dec\u00eda Hegel, \u201cTengan cuidado, hombres de acci\u00f3n, porque ustedes son meros instrumentos de los hombres de pensamiento\u201d<\/em>, y claramente la mayor\u00eda no est\u00e1 entre estos \u00faltimos. Los beneficios de los algoritmos son para los que piensan, no para los que lo ejecutan.<\/span><\/p>\n

Para tratar de optimizar algo, reducir la incertidumbre, predecir el futuro, transformar plomo en oro, se ha echado mano a una antigua disciplina filos\u00f3fica que combina elementos, la tan mentada alquimia, que en la actualidad, y dada la modernidad, su nombre mut\u00f3 al de \u201cmodelos matem\u00e1ticos\u201d. Estos pueden ser opacos, oscuros e irrefutables, sobre todo esto \u00faltimo, yo dir\u00eda incuestionables, incluso cuando est\u00e1n equivocados, pero esa es una de sus mayores virtudes. Lo m\u00e1s llamativo es, aunque la gente no lo sepa, que apuntalan a los afortunados y castigan a los oprimidos: bienvenido al lado oscuro del big data<\/em>.<\/span><\/p>\n

La matem\u00e1tica Cathy O\u2019Neil nos presenta los modelos que dan forma a nuestro futuro, no solo como individuos sino como sociedad. Estas \u201carmas de destrucci\u00f3n matem\u00e1tica\u201d, como titula su libro, califican a maestros y estudiantes, ordenan curr\u00edculos, niegan pr\u00e9stamos, eval\u00faan a los trabajadores, dirigen a los votantes, monitorean nuestra salud, las redes sociales y las inversiones, entre otras cosas. Gracias a los extraordinarios poderes de las matem\u00e1ticas combinados con la tecnolog\u00eda pueden de manera cient\u00edfica multiplicar el caos y la desgracia y promoverse con casi nula controversia como: provechosa.<\/span><\/p>\n

Uno podr\u00eda pensar que esta mujer es alg\u00fan tipo de ap\u00f3stata de la modernidad, pero no es as\u00ed. Fue profesora de Universidad de Barnard College, que compart\u00eda con la Universidad de Columbia el departamento de Matem\u00e1ticas. Decidi\u00f3 cambiar radicalmente su carrera profesional y comenz\u00f3 a trabajar como analista cuantitativa para D. E. Shaw, un destacado fondo de cobertura. Con el tiempo, y con la crisis del 2008, entendi\u00f3 que se afianzaba un mal uso de las matem\u00e1ticas, los algoritmos se pon\u00edan m\u00e1s de moda y se extend\u00edan a un creciente n\u00famero de \u00e1reas. Comprendi\u00f3 que funcionaban veinticuatro horas al d\u00eda procesando inmensas cantidades de informaci\u00f3n, en gran parte datos extra\u00eddos de las redes sociales o de p\u00e1ginas web, como dejamos expuesto en el art\u00edculo “Big Tech, el dominio de la econom\u00eda del siglo XXI”.<\/span><\/p>\n

En lugar de prestar atenci\u00f3n a los movimientos de los mercados financieros mundiales, se dedicaban cada vez m\u00e1s a analizar a los seres humanos. Los matem\u00e1ticos y los especialistas en estad\u00edsticas estudiaban nuestros deseos, nuestros movimientos y nuestro poder adquisitivo. Predec\u00edan nuestra solvencia y calculaban nuestro potencial como estudiantes, trabajadores, amantes o delincuentes. Esta era la econom\u00eda del big data<\/em>, y promet\u00eda ganancias espectaculares.<\/span><\/p>\n

En 1997, el Banco Central sueco concedi\u00f3 el premio a las ciencias econ\u00f3micas en honor a Nobel, a Myron Scholes y Robert C. Merton por \u201cun nuevo m\u00e9todo para determinar el valor de los derivados\u201d. Por cierto, un derivado es un producto financiero cuyo precio parte del precio de otro activo, futuros del petr\u00f3leo, por ejemplo, y dependen del valor del activo principal, el barril de petr\u00f3leo.<\/span><\/p>\n

Estos se\u00f1ores hab\u00edan fundado tres a\u00f1os antes\u00a0– junto con John Meriwether, antiguo vicepresidente de Salomon Brothers\u00a0– un fondo de inversi\u00f3n de car\u00e1cter especulativo, Long Term Capital Management o LTCM. \u00bfSe acuerdan de \u00e9l? Obtuvo elevados rendimientos en los primeros a\u00f1os, por lo que todo el mundo los consideraba unos genios. Pero en 1998, sus modelos de riesgo se fueron al garete: el fondo perdi\u00f3 4.600 millones de d\u00f3lares en menos de cuatro meses, provocando la intervenci\u00f3n de la Reserva Federal de los Estados Unidos, el rescate por otras entidades financieras y el cierre a comienzos de 2000.<\/span><\/p>\n

En el 2019, un estudio publicado en la revista Science<\/em> revel\u00f3 que era mucho menos probable que un algoritmo de predicci\u00f3n de atenci\u00f3n m\u00e9dica, utilizado por hospitales y compa\u00f1\u00edas de seguros en los EE. UU. para identificar a los pacientes que necesitaban programas de \u201cgesti\u00f3n de la atenci\u00f3n de alto riesgo”, fueran afroamericanos. En cambio, el algoritmo recomendar\u00eda pacientes blancos para estos programas y no a pacientes negros. El estudio encontr\u00f3 que el algoritmo usaba el gasto en atenci\u00f3n m\u00e9dica como un indicador para determinar la necesidad de atenci\u00f3n m\u00e9dica o el puntaje de un individuo, lo que anulaba, para obviar largas razones, a hombres y mujeres de color.<\/span><\/p>\n

Como se ve, trabajos, inversiones y salud, al menos con los ejemplos expuestos arriba, est\u00e1n condenados por los algoritmos. Pero la idea es que entendamos c\u00f3mo se fabrica el modelo y as\u00ed comprender lo que sucede. El ejemplo que da en su libro Cathy O\u2019Neil es muy ilustrativo y simp\u00e1tico. Ser\u00eda como dise\u00f1ar la estructura de c\u00f3mo detener a Messi, pero en beisbol, un deporte que deja marcas m\u00e1s f\u00e1ciles de explicar y no el regateo que puede tener el mediocampista, y cuya tendencia es indeterminada.<\/span><\/p>\n

Antes de comenzar quisiera destacar una aclaraci\u00f3n que da la misma autora, y es que el cerebro humano realiza las mismas tareas que un algoritmo. Ella da una explicaci\u00f3n acerca de la preparaci\u00f3n de la cena para sus tres hijos, lo que expone un modelo informal de algoritmo cerebral que como madre emplea a diario. Cada noche, cuando se pone a cocinar de manera intuitiva, piensa recabando informaci\u00f3n cu\u00e1nto apetito tendr\u00e1 cada uno de los miembros de mi familia. Sabe adem\u00e1s que uno de sus hijos comer\u00e1 solo la pasta, que el otro comer\u00e1 pollo y el \u00faltimo es fan\u00e1tico de las hamburguesas. Los datos de entrada del modelo son la informaci\u00f3n que tiene sobre su familia, los ingredientes que tiene en la cocina, el tiempo, las ganas, etc. La evaluaci\u00f3n del \u00e9xito ser\u00e1 cu\u00e1nto cenen o cu\u00e1nto dejen. El problema radica en su ausencia, si ella sale y sus hijos se quedan con la abuela, \u00bfse puede transmitir el algoritmo, toda la informaci\u00f3n obtenida en \u00e9l para que la abuela haga la cena?, la verdad, no.<\/span><\/p>\n

Para afianzar este punto enfoqu\u00e9monos en c\u00f3mo hacer para parar a un jugador espec\u00edfico en el beisbol. Un equipo cambi\u00f3 de posici\u00f3n a sus jugadores porque descubri\u00f3 que la tendencia de bateo de quien les hab\u00eda hecho da\u00f1o en el primer partido era la misma, siempre al mismo lugar, siempre a la derecha, supongamos, as\u00ed que puso a su mejor jugador a la derecha para que atrapara los batazos del contrario. En la actualidad todos los equipos lo hacen, de hecho, el algoritmo se va nutriendo con las estad\u00edsticas de cada bateo, de cada juego. Y todas las preguntas que se nos ocurren son las que nutren el modelo. La respuesta del modelo es ejecutar diferentes escenarios en cada coyuntura para dar con las combinaciones de respuestas \u00f3ptimas en cada instancia del partido. El problema est\u00e1 en las preguntas que lo alimentan.<\/span><\/p>\n

Si las respuestas son los gastos en salud y estos gastos dan puntajes para ingresar a ciertos programas, los afroamericanos que no gastan en salud, por no tener recursos, har\u00e1n que el algoritmo los deje fuera, porque se nutre de gastos para decidir y brindar puntaje, es decir, el dise\u00f1o de las variables que nutre las estad\u00edsticas est\u00e1 pensado para dejarlos fuera. Eso s\u00ed, de manera matem\u00e1ticamente justificada, imparcial y cient\u00edfica. Y aqu\u00ed est\u00e1 el centro de la mentira y ella da un ejemplo en el que se\u00f1ala sus caracter\u00edsticas destructivas poco a poco.<\/span><\/p>\n

El nuevo alcalde de Washington decidi\u00f3 corregir la situaci\u00f3n de las escuelas deficientes de la ciudad, las que ten\u00edan malos alumnos, de los cuales muy pocos llegaban a graduarse del primario. La teor\u00eda generalmente aceptada por el neoliberalismo era que los alumnos no aprend\u00edan lo suficiente porque sus profesores no trabajaban bien. De modo que, en 2009 se plante\u00f3 un plan para extirpar del sistema a los docentes de bajo rendimiento. \u00bfC\u00f3mo?, pues evaluando a los profesores con una prueba llamada IMPACT, deshacerse de los peores y colocar a los mejores donde se pueda producir el mayor efecto positivo posible.<\/span><\/p>\n

Una de las evluadas era Sarah Wysocki, maestra de quinto grado, que llevaba trabajando solo dos a\u00f1os en el colegio MacFarland, pero el director del colegio y los padres de sus alumnos ten\u00edan ya una excelente opini\u00f3n de ella. Elogiaban lo atenta que era con los ni\u00f1os; \u201cuna de las mejores maestras con las que he tratado nunca\u201d. La maestra Wysocki sac\u00f3 una penosa puntuaci\u00f3n en su evaluaci\u00f3n de IMPACT, esa puntuaci\u00f3n, generada por un algoritmo, la dejaba debajo del umbral m\u00ednimo, por lo que ella y 205 maestros m\u00e1s fueron despedidos. Obviamente, Sarah Wysocki pens\u00f3 que los n\u00fameros eran terriblemente injustos y quiso saber de d\u00f3nde ven\u00edan.<\/span><\/p>\n

\u00bfC\u00f3mo estaba dise\u00f1ado el algoritmo?, \u00bfqu\u00e9 lo nutria? Bien, el primer problema fue que la ciudad contrat\u00f3 una consultora que ten\u00eda un sistema llamado Mathematica y dicha consultora no pod\u00eda revelar su formato, porque la hab\u00edan contratado porque ten\u00eda el conocimiento para hacer la evaluaci\u00f3n. El modelo en s\u00ed es una caja negra, su contenido, un secreto corporativo fieramente guardado. De este modo, las consultoras con sistemas como Mathematica pueden cobrar m\u00e1s, aunque este secretismo sirve tambi\u00e9n a otros prop\u00f3sitos. Intentar puntuar la eficacia de un docente analizando los resultados de una prueba de solo veinticinco o treinta alumnos no tiene solidez estad\u00edstica y es, incluso, rid\u00edculo. Pero \u00bfc\u00f3mo puede confirmar el sistema que su an\u00e1lisis fue correcto? No puede. Una de las variables que alimentaba al algoritmo era los resultados de a\u00f1os anteriores. En ellos los docentes ayudaron a sus alumnos a realizar pruebas para que el establecimiento quedara bien parado; con esta profesora, eso no pas\u00f3.<\/span><\/p>\n

Lo que nutre el algoritmo es lo que se llama \u201cbucle de retroalimentaci\u00f3n\u201d. Las empresas, por ejemplo, utilizan cada vez m\u00e1s las calificaciones de solvencia crediticia para evaluar a los posibles candidatos para un trabajo. Se basan en la creencia de que las personas que pagan pronto sus facturas tienen m\u00e1s probabilidades de llegar puntualmente a su puesto de trabajo y de cumplir las normas. Pero buenos trabajadores tuvieron la desgracia de quedarse desempleados porque su empresa cerr\u00f3, por lo que tardan en pagar facturas, lo que hace que tengan una mala calificaci\u00f3n crediticia. No obstante, esta idea de que dicha mala calificaci\u00f3n est\u00e1 relacionada con un mal rendimiento en el trabajo hace que las personas que tienen una calificaci\u00f3n m\u00e1s baja tengan menos probabilidades de encontrar trabajo. El desempleo los empuja a la pobreza, lo que a su vez empeora a\u00fan m\u00e1s sus calificaciones de solvencia, con lo que les resulta a\u00fan m\u00e1s dif\u00edcil encontrar trabajo.<\/span><\/p>\n

Un algoritmo procesa un mont\u00f3n de estad\u00edsticas y produce como resultado una cierta probabilidad de que una persona concreta pueda ser un mal empleado, un prestatario de riesgo, un terrorista o un p\u00e9simo maestro. Esa probabilidad se condensa en una puntuaci\u00f3n, que puede llegar a destrozar la vida de alguien. Y, sin embargo, cuando esa persona decide defenderse, las \u201csugerentes\u201d pruebas en contra del veredicto son insuficientes para aclarar las cosas.<\/span><\/p>\n

Despu\u00e9s de la terrible sorpresa de su despido, Sarah Wysocki solo estuvo unos cuantos d\u00edas desempleada. Hab\u00eda mucha gente dispuesta a responder por su trabajo como maestra, entre ellas su director, y en seguida la contrataron en un colegio privado de un pr\u00f3spero distrito al norte de Virginia. La consecuencia final fue que, gracias a un modelo altamente cuestionable, un colegio pobre perdi\u00f3 a una buena maestra, y un colegio rico, que no desped\u00eda a los docentes por las puntuaciones que obtuvieran sus alumnos, gan\u00f3 una.<\/span><\/p>\n

{<\/strong> Prensa Bolivariana<\/em> }<\/strong><\/span><\/p>\n

\u2591\u2591\u2591\u2591\u2591\u2591\u2591\u2591\u2591\u2591\u2591\u2591<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

| Reprodu\u00e7\u00e3o\/www | \u25ef El lado oscuro del algoritmo Algoritmo, una palabra para que los errores de los programadores sean aceptables por Alejandro Marc\u00f3 del Pont Vivimos en la \u00e9poca de los algoritmos. Las decisiones que afectan a nuestras vidas no est\u00e1n hechas por humanos, sino por modelos matem\u00e1ticos. Estos esquemas se dise\u00f1aron para permitirnos, […]<\/p>\n","protected":false},"author":1,"featured_media":3221,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[113],"tags":[],"class_list":["post-119171","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-lado-d"],"_links":{"self":[{"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=\/wp\/v2\/posts\/119171","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=119171"}],"version-history":[{"count":4,"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=\/wp\/v2\/posts\/119171\/revisions"}],"predecessor-version":[{"id":145252,"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=\/wp\/v2\/posts\/119171\/revisions\/145252"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=\/wp\/v2\/media\/3221"}],"wp:attachment":[{"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=119171"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=119171"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aluzerna.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=119171"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}