¡Entérate primero con El Comercio! Nuevo
Suscríbete a nuestro canal de WhatsApp y recibe noticias al instante, directo en tu celular.
Fecha de publicación:
Fecha de modificación:
La inteligencia artificial podría alcanzar un punto en el que desarrolle nuevas versiones de sí misma y acelere el cambio hasta volverlo impredecible. Esa posibilidad, conocida como singularidad, fue el tema de La Pizarra EC, conducido por Jorge R. Imbaquingo, con Marco Benalcázar, experto en IA y editorialista de EL COMERCIO.
El invitado señala: tener mayor capacidad para resolver problemas no equivale a poseer conciencia o voluntad. También advierte que los desafíos de adaptación ya existen, aunque la singularidad aún siga siendo hipotética.
Benalcázar describe un escenario en el que una IA logra nuevos descubrimientos y, con ellos, desarrolla una siguiente generación de algoritmos. Estos tendrían capacidades superiores para producir otros sistemas cada vez más avanzados. El resultado sería una aceleración tecnológica difícil de anticipar.
En esa secuencia, los tiempos de desarrollo podrían reducirse de años a meses, luego a horas y quizá a minutos, explica. La transformación sería tan rápida que los modelos usados para proyectar la evolución de la sociedad o de la economía dejarían de ser suficientes.
“No sabemos qué es lo que va a pasar”, señala. La conversación no presenta este escenario como inevitable ni fija una fecha para su llegada.
El experto cuestiona la tendencia a atribuir rasgos humanos a los sistemas conversacionales. Su capacidad de dialogar puede llevar a tratarlos como personas. Sin embargo, recalca que funcionan mediante cálculos matemáticos ejecutados en computadores.
“Una cosa es simular y otra cosa es que realmente eso sea un acto genuino”, dice. Por eso, distingue la inteligencia de la agencia, la voluntad y la conciencia. En su explicación, un algoritmo muy capaz no adquiere automáticamente todas esas características.
Esa distinción tampoco elimina los riesgos. Según Benalcázar, al dividir una tarea compleja en problemas menores, un sistema podría ejecutar acciones que no coincidan con los objetivos humanos. El peligro no depende únicamente de imaginar una máquina con deseos propios.
El alineamiento busca que las acciones de estos sistemas correspondan con los objetivos y valores humanos, explica el invitado. Un saludo respetuoso es un ejemplo sencillo; evitar que una herramienta cause daño a una persona plantea una exigencia mayor.
La posibilidad de una mejora acelerada encuentra límites materiales. La inteligencia artificial requiere equipos, centros de datos y energía. El especialista recuerda que esos recursos son finitos y que obtenerlos no resulta tan sencillo como desarrollar software.
Por ello, plantea que una eventual singularidad podría traducirse en una profunda transformación social. El desafío sería la diferencia entre la velocidad de evolución tecnológica y la capacidad humana para adaptarse. Ese desfase, sostiene, ya genera dificultades.
La regulación es una de ellas. Según el experto, las normas se elaboran a partir de lo ocurrido y de aquello que puede anticiparse, mientras el desarrollo tecnológico dificulta prever escenarios de mediano y largo plazo.
Benalcázar también identifica posibilidades: ayudar a enfrentar los efectos del cambio climático, investigar respuestas para tipos de cáncer que aún no tienen cura y abordar problemas de alimentación. Los presenta como oportunidades, no como soluciones garantizadas.
“Hay enormes desafíos”, reconoce. Su reflexión en La Pizarra EC, el lugar donde las ideas se ponen en acción, invita a considerar tanto las oportunidades como los riesgos. La necesidad de adaptarse ya existe, incluso si la singularidad nunca llega.
Suscríbete a nuestro canal de WhatsApp y recibe noticias al instante, directo en tu celular.