noticonexion.com
El director ejecutivo de Meta, Mark Zuckerberg, rechazó la propuesta de establecer una desaceleración coordinada en el desarrollo de la inteligencia artificial (IA) y defendió que los propios laboratorios tienen suficientes incentivos para desarrollar sus sistemas de manera segura.
El ejecutivo considera que los usuarios no utilizarán modelos que no respondan adecuadamente a sus intereses o que no cumplan las funciones esperadas. Por ello, argumentó que los laboratorios tienen un incentivo natural para mejorar la alineación de sus modelos con las necesidades de las personas.
Zuckerberg señaló que la confianza y la alineación se están convirtiendo rápidamente en algunas de las capacidades que diferenciarán a los agentes y modelos de IA.
Su posición introduce un matiz importante en el debate actual: el empresario no plantea prescindir de los controles de seguridad, sino que cuestiona que sea necesario coordinar una ralentización general de la industria. En su lugar, defiende que cada compañía pueda determinar el ritmo de desarrollo que considere apropiado y asumir las consecuencias de sus decisiones.
Meta defiende evaluadores independientes y pone como ejemplo a Muse
Zuckerberg sostuvo que Meta tomó esa decisión de manera independiente y no condicionó su actuación a que otras empresas hicieran lo mismo.
La posición del ejecutivo refleja una idea central de su propuesta: seguridad y velocidad de desarrollo no necesariamente tienen que ser incompatibles, siempre que las empresas incorporen mecanismos adecuados de evaluación y asuman responsabilidad por los productos que ponen a disposición del público.
En ese sentido, la discusión ya no gira únicamente alrededor de si la IA debe avanzar más rápido o más despacio. También está en juego quién debe evaluar los riesgos, qué grado de independencia deben tener esos evaluadores y qué consecuencias deben enfrentar las empresas cuando sus sistemas provocan daños.
El debate divide a los grandes laboratorios de inteligencia artificial
Otros líderes tecnológicos, en cambio, han defendido que la innovación puede continuar mientras las empresas fortalecen sus mecanismos internos de seguridad y responsabilidad.
En este escenario, la propuesta de evaluadores independientes planteada por Zuckerberg representa un punto intermedio entre la ausencia de controles y una ralentización coordinada de toda la industria. Sin embargo, su efectividad dependerá de aspectos todavía abiertos, como el grado de independencia de esos evaluadores, sus facultades y la transparencia de sus conclusiones.
Mientras las principales empresas tecnológicas mantienen posiciones diferentes sobre el ritmo que debe seguir el desarrollo de la inteligencia artificial avanzada, existe coincidencia en que la seguridad, la confianza y la responsabilidad serán elementos cada vez más relevantes.
La diferencia está en cómo alcanzar esos objetivos: mientras algunos ejecutivos defienden reducir temporalmente el ritmo de desarrollo, Zuckerberg apuesta por que cada laboratorio gestione sus propios riesgos y recurra a evaluaciones independientes como parte de las mejores prácticas del sector.
Por: Noticonexion/efe/afp
