Exempleados de OpenAI, empresa detrás del popular ChatGPT, levantaron la voz al señalar la priorización de incentivos comerciales sobre los riesgos de una Inteligencia Artificial (IA) avanzada.
Más noticias
En cartas y publicaciones en redes sociales demandan transparencia. Este llamado se suma a anteriores advertencias sobre los peligros de una IA descontrolada.
Mientras tanto, Meta, la empresa de Mark Zuckerberg, avanza en el desarrollo de una IA ‘superior’ a los humanos, aunque asegura que serán “obedientes”. ¿Estamos preparados para este nuevo horizonte tecnológico?
Advertencias desde adentro de OpenAI
Un grupo de exempleados y trabajadores anónimos de OpenAI lanzó una carta, según informa El País, misma que resalta cómo la empresa privilegia los incentivos comerciales sobre los riesgos de desarrollar sistemas de IA cada vez más avanzados.
Los firmantes, entre ellos Daniel Kokotajlo y William Saunders, expresan su preocupación por la cultura interna de secretismo y los contratos que impiden críticas posteriores.
Desafíos y especulaciones futuras
Estas advertencias se suman a llamados previos de expertos en el campo, quienes instan a la pausa en los avances hacia la “inteligencia artificial general” (AGI), al destacar los riesgos potenciales.
El temor se centra, siguiendo con la fuente, en la posibilidad de que las máquinas sin control puedan tomar el mando y desobedecer órdenes humanas, lo que plantea desafíos significativos en términos de alineación entre las máquinas y los humanos.
La salida reciente de Leopold Aschenbrenner, un destacado miembro del equipo de OpenAI, puso de relieve estas preocupaciones.
Aschenbrenner, quien fue despedido por una supuesta filtración, generó controversia al publicar un extenso documento en X que analiza los peligros potenciales de las futuras versiones de IA.
Meta apuesta por una IA superior
En este mismo contexto, según El Cronista, Meta, la empresa de Mark Zuckerberg, se encuentra en desarrollo de una nueva Inteligencia Artificial que se espera ‘supere’ a los humanos en diversos ámbitos.
La compañía, matriz de Facebook, Instagram y WhatsApp, proyecta sistemas de IA “más inteligentes que los humanos en todos los ámbitos”, según declaraciones recogidas por El Cronista.
A pesar de este avance, Meta descarta la posibilidad de que estas nuevas inteligencias artificiales dominen a la humanidad, al argumentar que serán “muy inteligentes pero obedientes”.
En el marco del Foro Económico de Davos, Yann LeCun, vicepresidente y responsable de IA de Meta, afirmó que en las próximas décadas se verán modelos de IA más inteligentes que las personas.
LeCun destacó que, si bien los humanos tienen una inteligencia especializada, las máquinas avanzan rápidamente en su capacidad cognitiva.
Aunque aún queda un largo camino por recorrer para alcanzar la inteligencia humana, LeCun enfatizó en la importancia de desarrollar sistemas de IA que complementen y asistan a los humanos en lugar de intentar reemplazarlos.
Tanto Meta como OpenAI, con sus respectivas posturas, ofrecen una visión del futuro en relación con estas tecnologías, que se han vuelto masivas y cotidianas tanto para empresas como para usuarios particulares.