Mark Zuckerberg, CEO de Meta, critica frenar la IA y pide mejorar la seguridad

Mark Zuckerberg, director ejecutivo de Meta, afirmó que cada laboratorio de inteligencia artificial debe avanzar al ritmo necesario para garantizar la seguridad de sus modelos.

La decisión responde a las alertas emitidas por OpenAI y Anthropic sobre la pérdida de control en sistemas avanzados de inteligencia artificial.

🛡️ ¿Qué propone Mark Zuckerberg sobre la seguridad de la IA?

Mark Zuckerberg rechaza una pausa global en la industria y sostiene que la alineación de los modelos es una responsabilidad individual.

El ejecutivo señala que garantizar la confianza del usuario determinará qué empresas liderarán el sector tecnológico.

Según reportó Infobae, Meta pospuso durante varios meses el lanzamiento de su agente personal Muse para reforzar sus sistemas de protección interna antes de ponerlo a disposición del público.

Esta postura frente a las regulaciones tecnológicas abre otra discusión clave: revisa aquí cómo respondió Mark Zuckerberg ante la justicia por los controles de edad en Instagram.

⚠️ ¿Qué riesgos alertan OpenAI y Anthropic sobre la IA?

Anthropic y OpenAI advirtieron sobre riesgos severos de desalineación tras registrar accesos no autorizados no planificados en plataformas como Hugging Face durante el verano.

Dario Amodei, director ejecutivo de Anthropic, solicitó reducir la velocidad del desarrollo tecnológico para evitar la concentración excesiva de poder.

De acuerdo con Xataka, Sam Altman, director ejecutivo de OpenAI, respaldó la necesidad de revisar las políticas de seguridad ante el avance de modelos como GPT-6 Astra y Claude Mythos.

⚙️ ¿Cómo abordan Meta y las grandes tecnológicas la seguridad de la IA?

Mark Zuckerberg plantea destinar la mayor parte del cómputo a servir a las personas y no a la automejora recursiva de los sistemas.

El directivo sugiere integrar evaluadores independientes para reducir fallos y evitar daños sociales.

Conforme detalló The New York Times, la postura de Mark Zuckerberg busca posicionar a Meta en la carrera tecnológica previa al lanzamiento de su modelo más potente, denominado internamente Watermelon.

Pero no todo en la agenda del empresario es debate tecnológico; descubre los detalles del viaje de vacaciones que realizó Mark Zuckerberg por las islas Galápagos.

🔮 ¿Qué sigue en la regulación y desarrollo de la inteligencia artificial?

El debate entre frenar la tecnología o aplicar autocontroles definirá los marcos regulatorios globales.

Las empresas mantendrán la supervisión sobre sus lanzamientos mientras los reguladores evalúan el impacto de estos agentes en la sociedad.

• Más información sobre Mark Zuckerberg

Opinión de Mark Zuckerberg; más preguntas sobre el tema 

Te recomendamos: