El director Christopher Nolan advierte sobre el «Momento Oppenheimer» de AI

El director Christopher Nolan advierte sobre el «Momento Oppenheimer» de AI

Al hacer «Oppenheimer», el escritor y director Christopher Nolan dijo que quedó claro que los dilemas morales planteados por la inteligencia artificial reflejaban los que enfrentaba Robert Oppenheimer, cuya historia sobre el desarrollo de la bomba atómica se cuenta en la película, que se estrenó en los cines estadounidenses el viernes.

Cuando Oppenheimer desarrolló el arma a principios de la década de 1940, el físico teórico enfrentó una reacción violenta y la incertidumbre del ejército y el Congreso de EE. UU., al igual que la industria tecnológica enfrenta hoy en su carrera para hacer que la inteligencia artificial sea más poderosa, dijo Nolan en una entrevista reciente con Chuck Todd de NBC News.

“Cuando hablo con los principales investigadores de IA en este momento, por ejemplo, literalmente se refieren a esto como su momento Oppenheimer”, dijo Nolan. «Miran su historia para decir: ‘OK, ¿cuáles son las responsabilidades de los científicos que desarrollan nuevas tecnologías que pueden tener consecuencias no deseadas?'».

El físico teórico actual Carlo Rovelli, quien se unió a Nolan en la entrevista con otros expertos, dijo que había pensado en cómo encaja Oppenheimer en el siglo XXI.

«El tipo de preguntas que plantea no son solo sobre la década de 1940 y preguntas generales sobre la moralidad de los científicos», dijo Rovelli. «Estas son preguntas candentes hoy».

Cillian Murphy en "Oppenheimer."
Cillian Murphy en ‘Oppenheimer’. Melinda Sue Gordon/Universal Pictures

A medida que la IA continúa desarrollándose rápidamente, las dudas éticas de Oppenheimer acerca de abandonar el proceso científico a favor de la seguridad nacional surgen cuando los expertos advierten sobre una posible amenaza para la seguridad nacional si la llamada «armamentización de la IA» se afianza y los humanos ya no pueden controlar completamente los sistemas de armas autónomos.

“El riesgo de aparición de nuevas formas de armas de destrucción masiva en una forma radicalmente diferente, más sofisticada y perniciosa, ahora se ha convertido en una realidad”, escribió Birgitta Dresp-Langley, profesora de la Universidad de Estrasburgo en Francia, especializada en filosofía, inteligencia artificial e información, en la revista Frontiers in Artificial Intelligence en marzo.

Otro posible riesgos asociados con IA incluyen costos ambientales no equitativos, “estereotipos, denigración, mayor ideología extremista y arrestos injustos”, según un informe de un grupo de investigadores en 2021.

Nolan dijo que la relación cada vez más íntima entre la IA y el armamento revela la necesidad de responsabilidad corporativa. Dijo que la idea de que las personas produzcan o usen la tecnología sin comprender realmente sus implicaciones es «aterradora… porque a medida que los sistemas de inteligencia artificial se trasladan a la infraestructura de defensa, eventualmente estarán a cargo de las armas nucleares».

Al recrear la primera detonación de un arma nuclear, llamada Trinity Test, Nolan hizo todo lo posible para asegurarse de que se sintiera real, «peligroso… hermoso y aterrador en igual medida».

Dijo que espera que las personas que vean «Oppenheimer» sean más conscientes de los peligros que enfrentan hoy y que «dejen la película con preguntas inquietantes, problemas inquietantes».

By Gabino Trujillo