/ martes 17 de septiembre de 2024

Yuval Noah Harari señala los peligros de la IA en su nuevo libro, Nexus

El ensayista e historiador Yuval Noah Hatari lanza Nexus, libro en el que estudia la historia de las redes de información

A pesar de los grandes beneficios de la inteligencia artificial (IA) en la vida de los seres humanos, el reconocido historiador israelí Yuval Noah Harari pide no subestimar los alcances de esta tecnología en constante evolución y estar alerta a los peligros que puede significar para las sociedades modernas.

Así lo dijo durante la presentación a medios de comunicación de habla hispana de su nuevo libro “Nexus”. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, una publicación muy esperadas desde la aparición de “Sapiens: de animales a dioses”, el cual se convirtió en un fenómeno de ventas hace poco más de una década.

“La evolución de la IA tiene básicamente 10 años, todavía está dando los primeros pasos. Si pensamos el desarrollo de la IA de forma análoga a la evolución biológica, entonces las IA de hoy son muy simples. Los animales tardaron millones de años de evolucionar hasta llegar a los humanos, porque la evolución orgánica es lenta, pero la evolución digital es millones de veces más rápida”.

“No se necesitará el mismo tiempo para que la ‘amiba’ que es hoy la IA evolucione en un dinosaurio. Si Chat-GPT es tan sólo eso, una ‘amiba’, sólo imaginen lo que una IA evolucionada como un T-Rex podría hacer”, agregó el historiador ante el pensamiento generalizado de que las inteligencias artificiales son herramientas que sólo cometen errores en sus productos (ensayos, imágenes, videos y música), olvidando que son capaces de hilar ideas y argumentos, generando productos con sentido, un hecho del que se desconocen sus repercusiones a futuro.

Un agente independiente

De los diferentes riesgos que puede tener la IA, Yuval identifica entre los principales el que no se trata sólo de “una herramienta” como cualquier otra tecnología hecha en la historia de la humanidad, sino más bien de “un agente independiente”, capaz de tomar decisiones en beneficio para lo que fue programado.

Puedes leer: Audiolibro Amor tumbado mezcla la historia de Romeo y Julieta con la violencia del narcotráfico

“Cualquier tecnología, entre ellas las armas nucleares, como la bomba atómica, por supuesto, tienen un inmenso poder destructivo, pero, aun así, el poder está en manos humanas. Son seres humanos los que deciden si usarla y dónde, son ellos quienes desarrollan cualquier arma o estrategia militar.

“Pero una IA es diferente porque puede tomar decisiones por sí misma”, explicó el historiador, quien puso énfasis en que las IA, incluso pueden crear otras.

Uno de los ejemplos en los que ha identificado esta capacidad de decisión es en la distribución de información en las redes sociales, con el uso de algoritmos para direccionar información a determinados públicos, pero además son capaces de realizar textos y otros productos por sí mismos, tomando el lugar de lo que en los medios tradicionales era responsabilidad de un editor, lo cual debería ser cuestionado, pues su modelo de negocio se basa en la participación de los usuarios.

“A medida que las personas pasan más tiempo en YouTube, Twitter, TikTok o lo que sea, las empresas venden anuncios a modo de publicidad, las empresas recopilan más datos, que luego pueden vender a terceros.

Es en pos de este objetivo es que los algoritmos de las empresas descubrieron que la forma más fácil de captar la atención y de mantener a más personas durante más tiempo en la plataforma es presionar el botón de odio o el botón de miedo o el botón de ira en la mente”, agregó.

El historiador asegura que por esta razón no se ha permitido el diálogo y el cuestionamiento básicos para ejercer la democracia, por lo que considera que el periodismo sigue siendo clave aún en nuestros tiempos.

Totalitarismo tecnológico

Sin dar por seguro que vaya a suceder, ya que todo dependerá de las decisiones que de aquí en adelante tomé la humanidad, Yuval dijo que la IA permite la posibilidad de totalitarismos tecnológicos, pues ha abaratado los costos de censos y espionaje, como los que se realizaron regímenes como el soviético que utilizaba cientos de agentes de la KGB.

“En un país con IA no se necesitan agentes humanos para seguir a todos los humanos. Hay teléfonos inteligentes, computadoras, cámaras, Facebook, softwares de cognición y reconocimiento de voz. Por lo tanto, es técnicamente posible seguir a todos todo el tiempo y aniquilar la privacidad.

“Y, por si fuera poco, tampoco se necesitan analistas humanos para revisar toda la información”, dijo el investigador, quien aseguró que estas herramientas ya están en uso en varios países del mundo, porque hay que reconocerlo como una realidad y no ciencia ficción.

“Esto no sólo sucede en mi propio país natal, Israel, sino en los territorios palestinos ocupados. Con cámaras, drones y software que siguen a todos todo el tiempo. Tambien en Irán, por ejemplo, donde hay leyes sobre el hijab que obligan a las mujeres a cubrirse la cabeza cada vez que salen en público, incluso en su propio automóvil”, aseguró.

El historiador también comentó que después de las protestas en 2018 en el país musulmán, se implementaron sistemas de vigilancia con IA que alertan a las autoridades sobre esos supuestos crímenes religiosos.

➡️ Únete al canal de El Sol de México en WhatsApp para no perderte la información más importante

Por último, Yuval, aseguró que, a pesar de que este nuevo libro se centra en los aspectos negativos de la IA, él no se encuentra en contra del desarrollo, pues éste tendrá grandes beneficios en ramas como la salud, la movilidad y otras.

“La razón es simplemente que tienes todas estas corporaciones extremadamente ricas y poderosas, con historias positivas y predicciones positivas sobre lo que hará la IA, haciéndonos ignorar los peligros. Así que es el trabajo de los filósofos, historiadores, académicos como yo, centrarnos en ese lado oscuro. Pero eso no significa que sólo haya peligro”, finalizó.

A pesar de los grandes beneficios de la inteligencia artificial (IA) en la vida de los seres humanos, el reconocido historiador israelí Yuval Noah Harari pide no subestimar los alcances de esta tecnología en constante evolución y estar alerta a los peligros que puede significar para las sociedades modernas.

Así lo dijo durante la presentación a medios de comunicación de habla hispana de su nuevo libro “Nexus”. Una breve historia de las redes de información desde la Edad de Piedra hasta la IA, una publicación muy esperadas desde la aparición de “Sapiens: de animales a dioses”, el cual se convirtió en un fenómeno de ventas hace poco más de una década.

“La evolución de la IA tiene básicamente 10 años, todavía está dando los primeros pasos. Si pensamos el desarrollo de la IA de forma análoga a la evolución biológica, entonces las IA de hoy son muy simples. Los animales tardaron millones de años de evolucionar hasta llegar a los humanos, porque la evolución orgánica es lenta, pero la evolución digital es millones de veces más rápida”.

“No se necesitará el mismo tiempo para que la ‘amiba’ que es hoy la IA evolucione en un dinosaurio. Si Chat-GPT es tan sólo eso, una ‘amiba’, sólo imaginen lo que una IA evolucionada como un T-Rex podría hacer”, agregó el historiador ante el pensamiento generalizado de que las inteligencias artificiales son herramientas que sólo cometen errores en sus productos (ensayos, imágenes, videos y música), olvidando que son capaces de hilar ideas y argumentos, generando productos con sentido, un hecho del que se desconocen sus repercusiones a futuro.

Un agente independiente

De los diferentes riesgos que puede tener la IA, Yuval identifica entre los principales el que no se trata sólo de “una herramienta” como cualquier otra tecnología hecha en la historia de la humanidad, sino más bien de “un agente independiente”, capaz de tomar decisiones en beneficio para lo que fue programado.

Puedes leer: Audiolibro Amor tumbado mezcla la historia de Romeo y Julieta con la violencia del narcotráfico

“Cualquier tecnología, entre ellas las armas nucleares, como la bomba atómica, por supuesto, tienen un inmenso poder destructivo, pero, aun así, el poder está en manos humanas. Son seres humanos los que deciden si usarla y dónde, son ellos quienes desarrollan cualquier arma o estrategia militar.

“Pero una IA es diferente porque puede tomar decisiones por sí misma”, explicó el historiador, quien puso énfasis en que las IA, incluso pueden crear otras.

Uno de los ejemplos en los que ha identificado esta capacidad de decisión es en la distribución de información en las redes sociales, con el uso de algoritmos para direccionar información a determinados públicos, pero además son capaces de realizar textos y otros productos por sí mismos, tomando el lugar de lo que en los medios tradicionales era responsabilidad de un editor, lo cual debería ser cuestionado, pues su modelo de negocio se basa en la participación de los usuarios.

“A medida que las personas pasan más tiempo en YouTube, Twitter, TikTok o lo que sea, las empresas venden anuncios a modo de publicidad, las empresas recopilan más datos, que luego pueden vender a terceros.

Es en pos de este objetivo es que los algoritmos de las empresas descubrieron que la forma más fácil de captar la atención y de mantener a más personas durante más tiempo en la plataforma es presionar el botón de odio o el botón de miedo o el botón de ira en la mente”, agregó.

El historiador asegura que por esta razón no se ha permitido el diálogo y el cuestionamiento básicos para ejercer la democracia, por lo que considera que el periodismo sigue siendo clave aún en nuestros tiempos.

Totalitarismo tecnológico

Sin dar por seguro que vaya a suceder, ya que todo dependerá de las decisiones que de aquí en adelante tomé la humanidad, Yuval dijo que la IA permite la posibilidad de totalitarismos tecnológicos, pues ha abaratado los costos de censos y espionaje, como los que se realizaron regímenes como el soviético que utilizaba cientos de agentes de la KGB.

“En un país con IA no se necesitan agentes humanos para seguir a todos los humanos. Hay teléfonos inteligentes, computadoras, cámaras, Facebook, softwares de cognición y reconocimiento de voz. Por lo tanto, es técnicamente posible seguir a todos todo el tiempo y aniquilar la privacidad.

“Y, por si fuera poco, tampoco se necesitan analistas humanos para revisar toda la información”, dijo el investigador, quien aseguró que estas herramientas ya están en uso en varios países del mundo, porque hay que reconocerlo como una realidad y no ciencia ficción.

“Esto no sólo sucede en mi propio país natal, Israel, sino en los territorios palestinos ocupados. Con cámaras, drones y software que siguen a todos todo el tiempo. Tambien en Irán, por ejemplo, donde hay leyes sobre el hijab que obligan a las mujeres a cubrirse la cabeza cada vez que salen en público, incluso en su propio automóvil”, aseguró.

El historiador también comentó que después de las protestas en 2018 en el país musulmán, se implementaron sistemas de vigilancia con IA que alertan a las autoridades sobre esos supuestos crímenes religiosos.

➡️ Únete al canal de El Sol de México en WhatsApp para no perderte la información más importante

Por último, Yuval, aseguró que, a pesar de que este nuevo libro se centra en los aspectos negativos de la IA, él no se encuentra en contra del desarrollo, pues éste tendrá grandes beneficios en ramas como la salud, la movilidad y otras.

“La razón es simplemente que tienes todas estas corporaciones extremadamente ricas y poderosas, con historias positivas y predicciones positivas sobre lo que hará la IA, haciéndonos ignorar los peligros. Así que es el trabajo de los filósofos, historiadores, académicos como yo, centrarnos en ese lado oscuro. Pero eso no significa que sólo haya peligro”, finalizó.

Local

Tortillas y panaderías afectadas por la escasez de harina de trigo en SLRC

Algunas, logran salir adelante, debido a que contaban con producto guardado y eso les ayudó a pasar los días de escasez en el mercado

Local

Recorren casa por casa para efectuar Censo Salud y Bienestar

Personal de la Secretaría de Bienestar asignado a esta ciudad recorren las colonias para conocer en qué condiciones de salud están los beneficiarios de programa del Bienestar

Local

Estamos pasando momentos difíciles: Ayuntamiento de SLRC

La autoridad municipal fijó su postura en el sentido de que la ciudad pasa momentos difíciles y se solidariza con los hechos que se han presentado en los últimos días

Policiaca

Capturan seis generadores de violencia relacionados a balaceras del martes

Durante operativos realizados por policías y militares en la ciudad

Local

Pensionados del ISSSTE recibirán aguinaldo de 40 días en noviembre de 2024

El ISSSTE informó que el pago de aguinaldo se dividirá en dos partes

Local

El ISEA entrega 36 certificados de estudio a trabajadores agrícolas

El ISEA cuenta con círculos de estudio con el apoyo de los propietarios ya que ellos brindan facilidades a los empleados para que dediquen parte la jornada laboral a estudiar y superarse