EL «padrino de ai‘ emite una advertencia sobre la tecnología que ayudó a crear.
Geoffrey Hinton, pionero en inteligencia artificial, se unió a la creciente lista de expertos que comparten sus preocupaciones sobre el rápido avance de la inteligencia artificial. El renombrado científico informático renunció recientemente a su trabajo en Google para hablar abiertamente sobre sus preocupaciones sobre la tecnología y hacia dónde se dirige.
«Es difícil ver cómo puedes evitar que los malos actores lo usen para cosas malas», dijo Hinton en una entrevista. con el New York Times.
A Hinton le preocupa que las versiones futuras de la tecnología supongan una amenaza real para la humanidad.
“La idea de que estas cosas podrían volverse más inteligentes que las personas, algunas personas creían en eso”, dijo en la entrevista. “Pero la mayoría de la gente pensó que estaba muy lejos. Y pensé que estaba lejos. Pensé que era en 30 a 50 años o incluso más. Por supuesto, ya no pienso en eso.
Hinton, de 75 años, es mejor conocido por el rápido desarrollo del aprendizaje profundo, que utiliza estructuras matemáticas llamadas redes neuronales para extraer patrones de conjuntos masivos de datos.
Al igual que otros expertos, cree que la carrera entre las grandes tecnológicas para desarrollar una IA más poderosa solo se convertirá en una carrera global.
Hinton tuiteó el lunes por la mañana que creía que Google había actuado de manera responsable en su desarrollo de IA, pero que tenía que dejar la empresa para hablar.
Jeff Dean, vicepresidente senior de Google Research and AI, dijo en un comunicado enviado por correo electrónico: “Geoff ha logrado avances fundamentales en AI, y apreciamos su década de contribuciones en Google. He disfrutado profundamente nuestras muchas conversaciones a lo largo de los años. ¡Lo extrañaré y le deseo buena suerte! Como una de las primeras empresas en publicar Principios de la IA, seguimos comprometidos con un enfoque responsable de la IA. Aprendemos continuamente a comprender los riesgos emergentes mientras innovamos audazmente. »
Hinton es una adición notable a un grupo de tecnólogos que se han pronunciado públicamente sobre el desarrollo y lanzamiento desenfrenado de la IA.
Tristan Harris y Aza Raskin, cofundadores del Center for Humane Technology, hablaron con el presentador de «Nightly News» Lester Holt en marzo sobre sus propias preocupaciones sobre la IA.
«Lo que queremos es IA que enriquezca nuestras vidas. IA que funcione para las personas, que funcione para el beneficio humano, que nos ayude a curar el cáncer, que nos ayude a encontrar soluciones climáticas», dijo Harris durante la entrevista: «Podemos hacer eso. Podemos tener IA y laboratorios de investigación aplicados a aplicaciones específicas que promuevan esas áreas. Pero cuando estamos en una carrera armamentista para implementar IA en todos los humanos del planeta lo más rápido posible con la menor cantidad de pruebas posible, no es una ecuación que vaya a terminar bien.
una carta abierta de la Asociación para el Avance de la Inteligencia Artificialque fue firmado por 19 líderes actuales y anteriores de la Sociedad Universitaria, se publicó el mes pasado advirtiendo al público sobre los riesgos de la IA y la necesidad de colaboración para aliviar algunas de estas preocupaciones.
“Creemos que la IA cambiará cada vez más las reglas del juego en la salud, el clima, la educación, la ingeniería y muchos otros campos”, dice la carta. “Al mismo tiempo, somos conscientes de las limitaciones y preocupaciones con respecto a los avances en IA, incluida la posibilidad de que los sistemas de IA cometan errores, brinden recomendaciones sesgadas, amenacen nuestra privacidad, brinden nuevas herramientas a los malos actores y tengan un impacto en el empleo. .”
Hinton, con los científicos Yoshua Bengio y Yann LeCun, ganó el Premio Turing en 2019conocida como la versión de la industria tecnológica del Premio Nobel, por sus avances en IA.
Hinton, Bengio et LeCun ont exprimé ouvertement leurs inquiétudes concernant l’IA, mais étaient optimistes quant au potentiel de la technologie, notamment la détection des risques pour la santé plus tôt que les médecins et des avertissements météorologiques plus précis concernant les tremblements de terre et las inundaciones.
«Una cosa está muy clara, las técnicas que hemos desarrollado se pueden usar para una enorme cantidad de beneficios que afectan a cientos de millones de personas», dijo Hinton. dijo previamente a AP News.