¡Entérate primero con El Comercio! Nuevo
Suscríbete a nuestro canal de WhatsApp y recibe noticias al instante, directo en tu celular.
Fecha de publicación:
Fecha de modificación:
Geoffrey Hinton, Premio Nobel de Física de 2024, alertó en el programa Newsnight de la BBC que existe un 10% de probabilidad de que la inteligencia artificial provoque la extinción de la humanidad en la próxima década.
La advertencia del científico cobró fuerza tras la reciente dimisión del investigador Jacob Coxon en Anthropic.
Geoffrey Hinton declaró en la televisión británica que una estimación del 10% de riesgo de catástrofe global por inteligencia artificial resulta razonable ante la falta de control humano.
Según reportó Diario Red, el investigador renunció a Google en 2023 para alertar abiertamente sobre estos vacíos.
Hinton explicó que la humanidad nunca enfrentó seres más inteligentes que los propios creadores.
Para conocer más sobre cómo avanza la adopción de estos sistemas en las plataformas actuales, puedes consultar las nuevas funciones automatizadas para transmisiones en vivo que integran herramientas inteligentes.
Jacob Coxon dimitió de Anthropic tras acusar a esta firma y a OpenAI de avanzar a ciegas hacia una superinteligencia capaz de automejorarse.
El científico de 27 años denunció que las corporaciones avanzan sin medir riesgos, mientras diversos ingenieros temen en privado una amenaza existencial antes de terminar la década.
La automejora recursiva ocurre cuando un sistema tecnológico crea de forma autónoma sucesores más potentes sin ninguna intervención humana.
Sobre este proceso, El Colombiano detalló que Evan Hubinger, especialista de alineación en Anthropic, respaldó el diagnóstico crítico y fijó en más del 10% la posibilidad de una catástrofe global.
Hubinger aclaró que el peligro principal radica en los modelos futuros.
Este tipo de evolución se complementa con la rápida expansión del sector; si deseas profundizar en el uso práctico de estas plataformas, te recomendamos leer acerca de las principales alternativas avanzadas para la generación de video e imagen a partir de texto gracias a la IA.
La regulación inmediata por parte de los gobiernos obligará a las multinacionales a destinar recursos a la seguridad tecnológica.
Hinton no busca detener la investigación médica o educativa, pero exige normas estrictas mientras las empresas evalúan el impacto de sus arquitecturas.
Los principales riesgos incluyen la desinformación, los deepfakes, la pérdida de privacidad, los sesgos algorítmicos, los errores y la sustitución de algunos empleos. La UNESCO también advierte sobre posibles impactos en los derechos humanos, la democracia y la toma de decisiones automatizada.
Sí. La inteligencia artificial puede generar y viralizar noticias falsas, imágenes manipuladas, voces clonadas y videos deepfake con apariencia realista. Por eso, la UNESCO recomienda verificar las fuentes, revisar la fecha de publicación y no compartir contenido creado por IA sin confirmar su autenticidad.
Suscríbete a nuestro canal de WhatsApp y recibe noticias al instante, directo en tu celular.