NUEVA YORK — Imagínese que está a punto de abordar un avión y la mitad de los ingenieros que lo construyeron le dicen que hay un 10 por ciento de posibilidades de que el avión se estrelle con todos a bordo. ¿Subirán de la misma manera? En 2022, más de 700 destacados académicos e investigadores de las principales empresas de inteligencia artificial (IA) respondieron a una encuesta sobre los riesgos futuros de la inteligencia artificial. La mitad de los encuestados dijo que había un 10% o más de posibilidades de que la humanidad se extinguiera o sufriera una impotencia posible y permanente debido a los futuros sistemas de IA. En otras palabras, las empresas de tecnología que desarrollan «Modelos de lenguaje grande» (MLG) están compitiendo para poner a toda la humanidad en este avión…
Ninguna compañía farmacéutica puede comercializar un nuevo fármaco hasta que su producto haya superado rigurosas pruebas de seguridad. Los laboratorios de biotecnología no pueden lanzar nuevos virus para impresionar a los accionistas con su creatividad. Asimismo, un sistema de inteligencia artificial tan potente como GPT-4 (MLG creado por OpenAI) no debería introducirse en la vida de miles de millones de personas más rápido de lo que la sociedad puede absorberlo sin desestabilizarla. La carrera por el dominio del mercado no debe dictar la tasa de adopción de la tecnología más importante que actualmente posee la humanidad. Necesitamos movernos a un ritmo que nos permita hacerlo bien.
Comienzos
Esa era la palabra al principio. El lenguaje es el sistema de control de la cultura humana. Del lenguaje nacen los mitos y las leyes, los dioses y el dinero, el arte y la ciencia, las amistades y las alianzas, los países y los códigos informáticos. Ahora que ha aprendido el modelo de lenguaje, la IA puede piratear y manipular el sistema operativo de la civilización. Al dominar el lenguaje, la IA tiene la llave maestra de la civilización, capaz de desbloquear todo, desde bóvedas hasta el Santo Sepulcro. Por ejemplo, en un juego como el ajedrez, ningún ser humano puede aspirar a vencer a una computadora. ¿Y si sucediera lo mismo en el arte, la política o la religión? La IA puede tragarse rápidamente toda la cultura humana, todo lo que hemos creado durante milenios, digerirla y comenzar a escupir toneladas de nuevos artefactos culturales. No solo artículos académicos, sino también discursos políticos, manifiestos ideológicos o libros sagrados de nuevas religiones. De hecho, las elecciones presidenciales de EE. UU. de 2028 ya no pueden ser dirigidas por humanos.
Contactos
El primer contacto entre la inteligencia artificial y los humanos fue en las redes sociales, y los humanos se perdieron. Pero el primer contacto al menos nos permite sentir la amargura que nos espera. En las redes sociales, la inteligencia artificial en bruto no se utiliza para generar contenido, sino para curar el contenido generado por el usuario. La IA que informa nuestras fuentes de noticias selecciona las palabras, los sonidos y las imágenes que llegan a nuestras retinas y tímpanos, eligiendo aquellos que tienen más probabilidades de difundirse, tener el mayor impacto y atraer a otros usuarios. Por primitiva que sea, la inteligencia artificial detrás de las redes sociales es lo suficientemente poderosa como para crear un velo de ilusión que alimenta la polarización social, socava nuestra salud mental y destruye las democracias. Millones de personas confunden estas fantasías con la realidad. Estados Unidos tiene la mejor tecnología informática del mundo, pero sus ciudadanos ya no pueden ponerse de acuerdo sobre un ganador de las elecciones. Si bien todos conocen los problemas que plantean las redes sociales, nadie aborda los riesgos porque muchas de nuestras instituciones sociales, económicas y políticas están entrelazadas.
Dependencias
Es hora de discutir el futuro de la inteligencia artificial antes de que nuestra política, economía y vida diaria se vuelvan completamente dependientes de ella. La democracia es una conversación, una conversación basada en el lenguaje, y cuando se piratea el lenguaje mismo, la conversación se detiene y la democracia se vuelve insostenible. Si esperamos a que se produzca el caos, será demasiado tarde para solucionarlo.
De cualquier manera, una pregunta puede permanecer en nuestras mentes: si no avanzamos pronto, ¿se arriesga Occidente a quedarse atrás de China? la respuesta es negativa. Por el contrario, la difusión azarosa de la inteligencia artificial y la proliferación de una sociedad cuyos poderes divinos están despojados de toda responsabilidad pueden ser precisamente la causa del fracaso de Occidente. El destino de la IA todavía está en nuestras manos. Al combinar estos poderes divinos con la rendición de cuentas y el control apropiados, podemos obtener todos estos beneficios que nos promete la inteligencia artificial.
Fuente:
Por qué la inteligencia artificial podría devorar toda la cultura humana – LA NACION