Por primera vez, hemos inventado algo que nos quita el poder, dice el historiador israelí y autor de Sapiens.
Las historias siempre han sido vitales para Yuval Harari, el historiador y filósofo israelí. La capacidad única de nuestra especie para estar atados y unidos por narrativas intangibles, incluso a través de los océanos, fue central en Sapiens , su alucinante y popular crónica del ascenso de nuestra especie, que lo catapultó al estatus de vidente después de su publicación en inglés casi una década atrás.
Quizás es por eso que hoy está tan profundamente preocupado por el surgimiento de un desafío a nuestro dominio de la narración de cuentos: la inteligencia artificial (IA).
“Esta es la primera tecnología en la historia para crear historias”, dice Harari, de 47 años, hablándome desde su casa en las afueras de Tel Aviv. Para él, nada podría ser una mayor demostración de poder. Porque, en su opinión, nuestra creencia colectiva en "historias" (de fe, finanzas y nación, entre otras) ha alimentado la dominación de la Tierra por parte de la humanidad. El dinero nos ha permitido prosperar, por ejemplo, pero ¿qué valor tiene el billete de cinco dólares en el bolsillo si el comerciante lo descarta como un simple papel azul?
Ahora, la IA también puede tejer esos hechizos, lo que demuestra que el potencial de la tecnología tanto para el bien como para el mal, una vez considerado distante y teórico, ahora es inmediato y real. Es por eso que Harari agregó su nombre a una carta el mes pasado, firmada por miles de expertos, incluido Elon Musk , que pedía una moratoria en la investigación de software como Chat GPT, un modelo de IA que puede interactuar con los humanos en un texto creativo con matices casi inquietantes.
Otros programas pueden hacer lo mismo con imágenes y sonidos. “La nueva generación de IA no solo está difundiendo el contenido que producen los humanos. Puede producir el contenido por sí mismo”, dice Harari. “Trata de imaginar lo que significa vivir en un mundo donde la mayoría de los textos y melodías y luego las series de televisión y las imágenes son creadas por una inteligencia no humana. Simplemente no entendemos lo que significa. ¿Cuáles podrían ser las consecuencias de que la IA se haga cargo de la cultura?
Ya existen ejemplos triviales. La semana pasada, una revista alemana fue criticada por publicar lo que parecía ser una entrevista exclusiva con Michael Schumacher , cuando en realidad el texto fue generado por IA imitando al ex piloto de carreras paralizado. Harari sugiere que la IA pronto irá mucho más allá, evocando un mundo en el que “te conectas y discutes con alguien sobre algún tema político. Tal vez incluso te envíen un video de ellos mismos hablando. Pero no hay nadie detrás. Todo es IA”.
Tampoco, en su distopía, la falsificación digital sintética sería cualquier ser humano. Debido a que estamos influenciados únicamente por personas cercanas a nosotros, puede parecer un amigo o un pariente que intenta convencerlo del mérito de un producto o su posición sobre el cambio climático, las vacunas o la inmigración. Sería, dice, un poder de manipulación del discurso público nunca antes visto, y que haría parecer triviales los escándalos de influencia de las redes sociales de los últimos 10 años, que ya se cree que jugaron un papel en las elecciones de Brasil a América. Jeremy Fleming, el jefe de GCHQ, advirtió al gabinete que la desinformación de IA representa una amenaza significativa .
Una imagen generada por IA del Papa Francisco con una chaqueta acolchada que se volvió viral este mes
Una imagen generada por IA del Papa Francisco con una chaqueta acolchada que se volvió viral este mes. Harari dice que hay que regular la tecnología para tomar buenas decisiones CRÉDITO : Pablo Xavier
“Esto es especialmente una amenaza para las democracias más que para los regímenes autoritarios porque las democracias dependen de la conversación pública”, dice Harari. “La democracia básicamente es conversación. Gente hablando entre sí. Si la IA se hace cargo de la conversación, la democracia ha terminado”.
Pero, ¿qué efecto podría tener la tecnología si se desata maliciosamente en el campo de batalla, por parte de regímenes totalitarios? Un sistema de inteligencia artificial de Google, por ejemplo, aprendió bengalí por sí mismo sin estar capacitado para hacerlo.
“El régimen nazi se basó en tecnologías como trenes, electricidad y radios. No tenían herramientas como la inteligencia artificial”, dice Harari. “Un nuevo régimen en el siglo XXI tendrá herramientas mucho más poderosas. Así que las consecuencias podrían ser mucho más desastrosas. Esto es algo que no sé si la humanidad puede sobrevivir”.
Incluso las consecuencias más banales tienen el potencial de ser revolucionarias, dice. “Otro peligro es que muchas personas se encuentren completamente sin trabajo, no solo temporalmente, sino sin las habilidades básicas para el futuro mercado laboral. Podríamos llegar a un punto en el que el sistema económico vea a millones de personas como completamente inútiles. Esto tiene terribles ramificaciones psicológicas y políticas”.
Es la autonomía de la IA lo que la hace tan diferente. Sin embargo, incluso Harari, que se ha hecho un nombre resumiendo temas complejos, parece frustrado por su incapacidad para hacer que el resto de nosotros veamos esto tan profundamente como él lo ve.
“Necesitamos entender que la IA es la primera tecnología en la historia que puede tomar decisiones por sí misma. Puede tomar decisiones sobre su propio uso. También puede tomar decisiones sobre usted y sobre mí. Esto no es una predicción futura. Esto ya está sucediendo”.
Habla de casos notorios en los que se ha utilizado software de inteligencia artificial para investigar a los solicitantes de préstamos o decidir si los presos deben recibir la libertad condicional. “Entonces, el poder se está alejando por primera vez en la historia. Inventamos algo que nos quita el poder. Y está pasando tan rápido que la mayoría de la gente ni siquiera entiende lo que está pasando. Necesitamos asegurarnos de que la IA tome buenas decisiones sobre nuestras vidas. Esto es algo que estamos muy lejos de resolver”.
Al igual que otros, ahora defiende la regulación para administrar el poder de la IA, aprovechando su promesa y previniendo catástrofes. En la mente de Harari, tales reglas emularían las salvaguardas médicas. “Una compañía farmacéutica no puede lanzar un nuevo medicamento al mercado sin antes pasar por un largo proceso regulatorio. Es realmente extraño y aterrador que las corporaciones puedan simplemente lanzar herramientas de IA extremadamente poderosas a la esfera pública sin ninguna medida de seguridad similar”.
Tales medidas tendrían que ser aplicadas por el gobierno, insiste. Esperar que la industria de la tecnología se regule a sí misma es cosa de pájaros. “Con el debido respeto a Elon Musk y Zuckerberg o a los demás jefes de las grandes empresas tecnológicas, nadie los elige, no representan a nadie excepto a sus accionistas y no hay motivos para confiar en ellos”. Como para probar el punto de Harari, Musk anunció su propio chatbot de IA pocos días después de firmar la carta denunciando la investigación de otros.
Tal vez no sea una sorpresa, entonces, que Harari mantenga su propio teléfono apagado, "en un cajón". Él lo llama “un teléfono inteligente de emergencia” para cuando viaja al extranjero, que es considerablemente más en la última década, desde que se convirtió en una superestrella intelectual mundial.
"Se ha vuelto realmente imposible hacer algunas cosas sin un teléfono inteligente". Uno piensa en él tratando de pedir un taxi en un viaje al extranjero y fallando. Sin embargo, lo que no se pierde de la pantalla de su bolsillo es la avalancha de información que distrae y que llega a su cerebro. Se declara en “una dieta de información”.
“Hay demasiada información basura”, dice. “Es como la comida. Durante la mayor parte de la historia humana, tratamos desesperadamente de conseguir más comida. Y ahora estamos en la situación opuesta. Debemos tener mucho cuidado tanto con las cantidades como con la calidad de los alimentos que consumimos”.
Él contrasta el enfoque y la elección activa involucrada en la “lectura” con este “consumo” de información pasivo y con ojos saltones. Es difícil imaginar a Harari haciendo algo de una manera tan irreflexiva. Le gusta el tiempo y la paz para componer sus pensamientos, y durante mucho tiempo ha estado interesado en la meditación para asegurarse de que está mentalmente sintonizado para mantener a raya las distracciones. “Acabo de regresar de un retiro de meditación de dos meses”, dice. “Se puede decir que es parte de la dieta de la información… un período para desconectar y permitir que la mente se desintoxice de toda la basura que asimilamos”.
Es posible que Harari pueda tomarse tanto tiempo libre dada la seguridad financiera que le ha brindado su fama (en un perfil del New Yorker, se sugirió que su tarifa por un solo discurso de 24 minutos ascendía a varios cientos de miles de dólares). Pero su interés en la meditación es anterior a su éxito, y su instinto para hacer una pausa, reflexionar sobre grandes temas y hacer conexiones entre ellos se remonta aún más atrás, cuando descubrió que crecer como gay lo convertía en una especie de extraño, observando al resto de la sociedad. , tratando de explicarlo. “El Israel de la década de 1980 era tan homofóbico”, dice.
Creció cerca de Haifa, en el norte de Israel, el hijo menor precozmente brillante (tiene dos hermanas mayores) de Shlomo, un contratista de defensa, y Pnina Harari. Al final de su adolescencia, gravitó hacia la historia medieval, que estudió en la Universidad Hebrea de Jerusalén hasta 1998, cuando se mudó a Jesus College, Oxford para completar su doctorado.
Harari regresó a Israel en 2003, el año en que la U Hebrea (como se conoce a la Universidad Hebrea) comenzó a publicar un manual para estudiantes universitarios llamado “Introducción a la historia del mundo”. Como especialistas, los académicos establecidos tendían a rehuir un curso tan amplio, por lo que, como miembro nuevo y joven de la facultad, Harari se encontró enseñándolo. Nervioso, escribió guiones para sus 20 conferencias. Iban a convertirse en la base de Sapiens.
Decenas de miles de israelíes protestan contra los planes del gobierno para reformar el sistema judicial en Tel Aviv el 15 de abril.
Decenas de miles de israelíes protestan contra los planes del gobierno para reformar el sistema judicial en Tel Aviv el 15 de abril CRÉDITO : Oded Balilty/AP
Pero eso es hacer que su camino hacia la fama y la riqueza parezca simple. De hecho, el manuscrito de Sapiens fue repetidamente rechazado en Israel, y luego, cuando finalmente encontró un editor, languideció sin traducir durante varios años. Harari incluso recurrió a traducir al inglés él mismo y a usar el servicio de impresión bajo demanda de Amazon.
Fue una lucha que quizás no hubiera tenido la determinación de emprender sin el valor de su esposo, Itzik Yahav, a quien conoció a través de un sitio de citas en 2002. Yahav no solo ayudó a que la carrera de Harari despegara, sino que ha sido una pieza clave. factor para asegurar que posteriormente haya volado tan alto, en la medida en que ahora tiene una oficina bien equipada que es la envidia de otros intelectuales públicos. “Si fuera solo por mí, hace mucho que me habría derrumbado o me habría rendido”, dijo una vez Harari sobre Yahav.
Desde entonces, Harari ha publicado otros dos libros de historia arrolladores: Homo Deus (2016) y 21 lecciones para el siglo XXI (2018). El año pasado lanzó su primer libro para niños, Unstoppable Us: How Humans Took Over the World, y Sapiens también ha sido adaptado a una serie de novelas gráficas. Pero su preocupación más apremiante hoy es el estado de su propia nación, en particular los planes de la coalición liderada por Benjamin Netanyahu para podar los poderes de la Corte Suprema de Israel , que actualmente actúa como el único freno al poder legislativo.
“Básicamente, el gobierno está tratando de establecer una dictadura aquí”, dice Harari, una ventaja en su forma metódica habitual. “Creo que existe una amenaza real para la supervivencia de la democracia israelí”. Él dice que es "absolutamente cierto" que los israelíes y las empresas israelíes se están yendo porque "el gobierno está tratando de desmantelar los controles y equilibrios de la democracia israelí".
“Si el parlamento israelí aprueba una ley que, por ejemplo, elimina los derechos de voto de los ciudadanos árabes, y algunos políticos han estado hablando exactamente de esa ley, la única institución que puede intervenir y anular esa ley es la Corte Suprema. ”
Dice que algunos miembros de la coalición quieren poder “manipular las elecciones”, “ya prepararon una larga lista de leyes y reglamentos que discriminarán a los ciudadanos árabes, a las mujeres, a las personas LGBT, a las personas seculares” y “tienen puntos de vista mesiánicos”. y tienen una fuerte creencia en la supremacía judía”.
Si bien las medidas se han detenido a raíz de las enormes protestas callejeras, “la crisis aún continúa”, dice. “Y si el gobierno tiene éxito, Israel seguirá el mismo camino que Turquía y Rusia, que aún pueden celebrar elecciones periódicas, pero ya no son realmente democracias”.
Las comparaciones con el gobierno de Viktor Orban en Hungría están fuera de lugar, dice, porque Israel es “una gran potencia militar con capacidades nucleares, y también con capacidades cibernéticas que realmente tienen un alcance global. La gente en el Reino Unido debería preocuparse por lo que está sucediendo en Israel porque podría desestabilizar todo el Medio Oriente con consecuencias inmediatas también para Europa”.
Mi tiempo con el oráculo está volando. Si estuviera pagando, ya habría superado el millón de dólares. Consideramos la guerra de Ucrania (“las consecuencias para toda la humanidad podrían ser trágicas”); cambio climático (“Oigo a la gente decir que el cambio climático es algo que las democracias son intrínsecamente incapaces de abordar porque es un problema a largo plazo. No creo que sea cierto”); Bloqueos de covid (“en las primeras etapas de la pandemia, cuando simplemente no sabíamos a lo que nos enfrentábamos, las medidas extremas estaban más justificadas”); derechos de las personas transgénero (“Mi posición personal es tradicional. Pienso que el sexo es un fenómeno biológico objetivo mientras que el género es cultural”); la coronación (“Es muy difícil en un solo país lograr que decenas de millones de personas vivan juntas y estén de acuerdo en cualquier cosa. En Gran Bretaña, la familia real tiene un papel simbólico muy importante que desempeñar”). Finalmente, terminamos hablando de la felicidad. Harari concluye Sapiens señalando que, a pesar de los grandes aumentos en nuestra prosperidad, la humanidad "parece tan descontenta como siempre". ¿Le pasa lo mismo a él?
“Mi vida cambió por completo [con la fama]”, dice. “Hace diez años nadie quería entrevistarme sobre nada. Así que tuve mucho tiempo para leer libros y luego escribir mis cosas. La fama a nivel personal, por lo general, solo crea más problemas”. Sin embargo, en general, los amigos, la meditación y la terapia, y deshacerse de las ansiedades de la juventud significan "ahora soy más feliz".
Es una manera optimista de terminar una discusión con un hombre que, como algunos oráculos de antaño, es criticado ocasionalmente por ofrecer un análisis sombrío de la condición de la humanidad, pero sin ofrecer ningún remedio (su tomo más famoso concluye: “El régimen Sapiens en la Tierra tiene tantas producido hasta ahora poco de lo que podamos estar orgullosos”).
Pero cuando terminamos, no es su habilidad para describir con elegancia tantas catástrofes potenciales lo que encuentro profundamente inquietante, sino su incapacidad para decir por qué nuestra especie tiene la costumbre de causar estragos. Sus palabras resuenan en mis oídos: “Lo mejor que puedo decir es que la historia está llena de errores. Muchos eventos importantes no son el resultado de algunas fuerzas inevitables de la historia. Son simplemente el resultado de que los humanos cometan errores terribles. Lo básico que debe asumir es que las personas son falibles. La gente es corruptible. Una buena institución o un buen país es aquel que goza de fuertes mecanismos de autocorrección”.
Como la Corte Suprema de Israel. Es una lección, piensa, no solo clave para la supervivencia de su nación como democracia, sino para la supervivencia del mundo y punto.
0 Comentarios