Elon Musk hizo olas en marzo cuando pidió una pausa en el desarrollo de IA, uniéndose a cientos de otros expertos en tecnología para firmar una carta abierta que advierte sobre los peligros de la inteligencia artificial avanzada.
Pero no pensó que nadie prestaría atención a la llamada.
«Bueno, quiero decir, no creo que nadie esté de acuerdo con una pausa, pero pensé, para que conste, ‘Creo que deberíamos hacer una pausa'», dijo el CEO de Tesla. En dicho ayer Conferencia de Tecnología VivaTech en Francia.
Mucha gente lo tomó Carta Hablando en serio, por supuesto, incluidos sus firmantes y críticos. Advirtió sobre las terribles consecuencias para la humanidad de la IA avanzada y pidió una moratoria de seis meses en el desarrollo de cualquier cosa más avanzada que el chatbot GPT-4 de OpenAI.
Los críticos incluyen al cofundador de Microsoft, Bill Gates, un senador de EE. UU. Circuitos de micrófonoE incluso Geoffrey Hinton, el «padrino de la IA», que dejó Google este año para hacer sonar la alarma sobre la tecnología.
Hinton, como otros, sintió que el llamado a una moratoria no tenía sentido porque «si la investigación no se lleva a cabo aquí, sucederá en China». explicado a NPR.
«Es un problema de acción colectiva», admitió el CEO de Google, Sundar Pichai. bifurcación dura Internet En marzo, las personas detrás de la carta dijeron que «probablemente tenía la intención de iniciar una conversación».
Aidan Gomez, CEO de Cohere, una startup de IA valorada en $2 mil millones; dicho El Tiempos financieros Esta semana, la llamada «no se ejecutó de manera confiable». Añadió: «Pasar nuestro tiempo debatiendo si una adquisición AGI superinteligente acabará con nuestra especie es un uso ridículo de nuestro tiempo y del espacio mental del público».
Sin embargo, Musk dijo ayer que «algo más inteligente que una persona más inteligente será la primera vez». Advirtió sobre «un resultado catastrófico» si la humanidad «no tiene cuidado en la construcción de inteligencia general artificial».
El hombre más rico del mundo reiteró su llamado a una regulación más estricta en torno a la tecnología y calificó a la IA avanzada como un «peligro para el público». La mayor parte del resultado con la IA es positivo, pero «no todos los resultados posibles lo son, por lo que debemos reducir la probabilidad de que algo salga mal».
Si realmente hay «algún tipo de apocalipsis de IA», todavía le gustaría estar vivo para verlo.
