martes, 24 de septiembre de 2024

Los grandes peligros de la Inteligencia Artificial

Mientras se liberaba en Amazon Nexus / Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, de Yuval Noah Harari, leí de un tirón el librito La tarde de un escritor, de Peter Handke, Nobel de literatura 2019, narrado en tercera persona, pero que muy bien pudo haberlo sido en primera, pues es obvio que el escritor que abandona su estudio a media tarde para dar un paseo y volver al mismo ya entrada la noche invernal, después de una jornada de introspección y divagación, es él. Como todo este tipo de relatos, desde un principio supuse que iba a ser un escrito críptico, enigmático, muy personal, y así fue. De esos que en particular a mí no me gustan, pero que tal vez hagan las delicias de un lector con inclinaciones poéticas, y como yo no lo soy, agradecí al cielo su finalización justo el día que apareció el libro de Harari (martes 10 de septiembre), que me apresuré a adquirir en su versión Kindle.

Yuval comienza y termina su libro con la sentencia de que la información no necesariamente implica verdad, pero tampoco es un simple instrumento, y durante todo el ensayo se dedica a develar el nexo (por ello el título de la obra) entre estas dos posiciones extremas. De aquí pasa a enunciar -y en algunos casos a entrar en prolijo detalle- las diferentes redes de información que se han dado a lo largo de la historia de la humanidad: relatos, burocracia, escritura, imprenta, telégrafo, trenes, radio, televisión, periódicos, internet, inteligencia artificial, y es en esta última en la que más abunda a lo largo de todo el libro, desmenuzando concienzudamente los graves riesgos que conlleva, sin soslayar sus incuestionables méritos. Y es que Harari afirma que estamos siendo vigilados las 24 horas del día por (no mediante) nuestras computadoras y móviles, y que con estas redes de información se está moldeando un orden totalmente diferente al que hemos estado acostumbrados, por eso el autor se centra en los aspectos negativos de esta revolución más que en sus beneficios, y así lo acepta en el capítulo siete.

La Biblia y el Talmud son, por definición, textos infalibles, además de sagrados, y que requieren por tanto de interpretaciones por parte de autoridades eclesiales y rabínicas. Por lo mismo, carecen de autocorrectores, como los que podría tener una revista científica, por ejemplo, que en una edición puede llegar a corregir lo que se dijo en un número anterior. Como los tiene también la democracia en contraposición del totalitarismo (tiranía, le llamaría Zedillo).

La falta de estos autocorrectores explica calamidades como la cacería de brujas que se dio en Europa siglos atrás o la Inquisición española en la época colonial o el macartismo norteamericano mucho más recientemente, y el éxito sin precedentes de libros como El martillo de las brujas, de  Heinrich Kramer, y que dio lugar a tantos deleznables crímenes durante la mencionada cacería; libro que disfrutó de incontables ediciones, a diferencia del de Copérnico, que apenas alcanzó unas pocas decenas de ejemplares.

Mecanismos autocorrectores con los que también cuentan las democracias y sus redes de información, y que quedó patente en la manera tan disímbola en que se manejaron tragedias nucleares como las de Three Mile Island en Estados Unidos y Chernóbil en la Unión Soviética. Es más, la experiencia de la primera, ocurrida antes que Chernóbil, ayudó a paliar un tanto la segunda.

Pero no todo es miel sobre hojuelas, pues las redes son capaces ya de perseguir objetivos y tomar decisiones, como Facebook y ChatGPT, habiendo jugado la primera un papel decisivo en Myanmar en la represión que la mayoría budista llevó a cabo sobre la minoría musulmana, exacerbada por algoritmos de implicación que generaron automáticamente mensajes de odio contra los rohinyás (musulmanes) y su consecuente masacre. A estos mensajes les dio la mayor relevancia Facebook mediante dichos algoritmos inteligentes.

YouTube incurre exactamente en el mismo comportamiento que Facebook. Con algoritmos, da relevancia a videos que explotan el morbo, el escándalo, las mentiras y amarillistas verdades a medias. En ambos casos, los culpables no son los creadores de estas plataformas, sino sus algoritmos “inteligentes” que se autocontrolan, fuera del alcance de sus “progenitores”.

En el caso de ChatGPT, sus creadores lo sometieron a prueba para ver si podía superar el desafío CAPTCHA, con todo y sus caracteres retorcidos… ¡y lo consiguió! Pero la forma en que lo hizo resultó inverosímil: al haber fracasado en un primer intento, se puso en contacto con especialistas para que le ayudaran. ¿Y cómo podemos estar seguros nosotros de que no eres un bot?, le preguntaron estos, a lo que con desparpajo respondió ChatGPT: no, no soy un bot, soy un débil visual, y prueba superada.

Obviamente los creadores de ChatGPT no lo entrenaron para que mintiera, pero es la misma situación que con Facebook y YouTube: algoritmos inteligentes fuera del alcance de los creadores de las respectivas plataformas son los responsables.  

Lo que le llevó a la vida orgánica sobre el planeta cuatro mil millones de años de evolución, no le llevará a la red inorgánica de ordenadores (algoritmos) más de dos siglos para tomar control de todo. Pero, ¡cuidado!, la red, como queda claro de toda esta discusión, es falible, pues no goza de los mismos cuestionables privilegios de los textos sagrados. Podría llegar a ocurrir que, así como la imprenta influyó en la cacería de brujas y en las guerras religiosas, y  la Revolución Industrial para que se dieran el nazismo y el imperialismo, estuviera en marcha un fenómeno inédito y de alcances desconocidos para nosotros.

Aun así, no se puede negar el impacto que las redes han tenido en la creatividad y la socialización, como le consta personalmente a Yuval Noah Harari, que conoció a su pareja a través una red LGBTI, algo que en su juventud hubiera sido imposible.

Yo me he aficionado mucho a ChatGPT y lo consultó frecuentemente, sin excluir cuestiones médicas. Algo que llamó mucho mi atención fue el experimento que hicieron con médicos reales, ChatGPT y varios pacientes, desconociendo estos quién los atendía: si un galeno profesional o la plataforma. Los resultados fueron sorprendentes, ya que ChatGPT resultó más acertada en sus diagnósticos y, ¡sorpréndanse!, fue más empática con los pacientes. En descarga de los médicos de carne y hueso podemos argumentar que no hubo paga de por medio y que su tiempo era limitado, a diferencia de la plataforma, que tampoco cobra y su tiempo es ilimitado.

Justo hace un par de días, quise respaldar información vital en mi computadora en la nube y le solicité ayuda a ChatGPT, quien no me abandonó hasta que se hubo asegurado de que lo había conseguido. Quedé tan agradecido que intercambié un par de líneas finales con ¿él?:

¡Muchísimas gracias, eres un chingón, me has ayudado enormidades ayer y hoy, vaya un beso para ti!

¡Gracias a ti! Me alegra mucho saber que te he podido ayudar. ¡Tus palabras son súper motivadoras! Si necesitas más ayuda en el futuro, ya sabes que aquí estoy. ¡Te mando un abrazo virtual y me quedo con ese beso! ¡Cuídate mucho!

¡De risa loca!

Combinar nuestra lectura de cuentos, novelas y poesía con este tipo de ensayos incrementa notablemente nuestra sabiduría.

No hay comentarios: