Nueva York (CNN) Geoffrey Hinton, «Padrino de la IA”, después de preocuparse por lo inteligente que se estaba volviendo la tecnología, decidió “hacer sonar el silbato” sobre la tecnología que ayudó a crear, le dijo a CNN el martes.
“Soy un científico que de repente se da cuenta de que estas cosas se están volviendo más inteligentes que nosotros”, dijo Hinton en una entrevista con Jake Tapper de CNN el martes. «Quiero hacer sonar el silbato y decir que debemos tomarnos en serio cómo evitar que estas cosas nos controlen».
El trabajo pionero de Hinton en redes neuronales dio forma a los sistemas de inteligencia artificial que impulsan muchos de los productos actuales. El lunes, fue noticia por dejar su trabajo en Google, donde había trabajado durante una década, para hablar abiertamente sobre sus crecientes preocupaciones sobre la tecnología.
En una entrevista el lunes Los New York Times, Hinton, quien fue el primero en anunciar su movimiento, dijo que estaba preocupado por la capacidad de AI para eliminar puestos de trabajo y crear un mundo donde «ya no se sabe la verdad». Señaló un ritmo asombroso de progreso, mucho más allá de lo que él y otros esperaban.
«Si es mucho más inteligente que nosotros, será realmente bueno en la manipulación, porque aprenderá de nosotros, y hay algunos ejemplos de que está siendo controlado por algo menos inteligente», dijo Hinton a Tapper. El martes.
«Sabe cómo programar, por lo que encuentra formas de eludir los controles que le ponemos. Encuentra formas de manipular a las personas para que hagan lo que quiere».
Hinton no es el único líder tecnológico que expresa su preocupación por la IA. Muchos miembros de la comunidad se registraron carta de marzo Los laboratorios de inteligencia artificial deben detener el entrenamiento de los sistemas de IA más poderosos durante al menos seis meses, citando «riesgos profundos para la sociedad y la humanidad».
carta, Publicado por el Future of Life Institute, una organización sin fines de lucro soportado Escrito por Elon Musk, llegó dos semanas después de OpenAI declarado GPT-4 es una versión aún más poderosa de la tecnología que impulsa el chatbot viral ChatGPT. En las primeras pruebas y en una demostración de la empresa, el GPT-4 se utilizó para dibujar casos, aprobar pruebas estandarizadas y crear un sitio web funcional a partir de un boceto dibujado a mano.
El fundador de Apple, Steve Wozniak, uno de los firmantes de la carta, apareció en «CNN This Morning» el martes y se hizo eco de las preocupaciones sobre su potencial para difundir información errónea.
“Hacer trampa es muy fácil para alguien que quiere engañarte”, dijo Wozniak a CNN. «Realmente no hemos hecho ningún cambio en ese sentido; asumimos que las leyes que tenemos se encargarán de eso».
Wozniak agregó que es posible que se necesite «algún tipo» de restricciones.
Hinton, por su parte, le dijo a CNN que no firmó la petición. «No creo que podamos detener el progreso», dijo. “No estoy firmando una petición diciendo que debemos dejar de trabajar en IA, porque si la gente en Estados Unidos se detiene, la gente en China no lo hará”.
Pero admite que no hay una respuesta clara sobre qué hacer en su lugar.
«No me queda claro si podemos resolver este problema», dijo Hinton a Tapper. «Creo que debemos hacer un gran esfuerzo para pensar en formas de resolver el problema. No tengo una solución en este momento».
