Sam Altman, director de OpenAI, lanzó una advertencia sobre los riesgos de la inteligencia artificial e hizo un llamado urgente para su regularización.
El creador de ChatGPT señaló que existen varios riesgos de esta tecnología, por lo que destacó que necesita límites urgentes.
“Esto no quiere decir que no necesitemos ninguna regulación o medida de seguridad. Es obvio que las necesitamos, urgentemente, al igual que las hemos necesitado para otras tecnologías potentes”
Sam Altman
Sam Altman hace un llamado para regular “urgentemente” la IA
En una conferencia mundial sobre inteligencia artificial en India, Sam Altman señaló que el mundo necesita “urgentemente” regular la IA.
Sam Altman reveló que la regulación en la IA no debe ser vista como un obstáculo que va a limitar su crecimiento, sino como una infraestructura necesaria para evitar que se escape del control humano.
Y es que se ha demostrado que la autorregulación es insuficiente para esta tecnología de rápida evolución.
“La democratización de la IA es la mejor manera de garantizar que la humanidad prospere”
Sam Altman
Para Sam Altman, la necesidad de un consenso global sobre la ética y la seguridad de la IA se ha vuelto una prioridad de seguridad nacional.
Asimismo, puntualizó que existen preocupaciones legítimas sobre el uso de la IA en la creación de desinformación a gran escala y el desarrollo de amenazas cibernéticas sofisticadas.
“La tecnología siempre altera los empleos; siempre encontramos cosas nuevas y mejores que hacer”
Sam Altman
Señaló que el peligro no radica en una rebelión de las máquinas, sino en fallos sutiles pero sistémicos que podrían desestabilizar economías y procesos democráticos si no hay reglas de juego claras.
Sam Altman destacó que los legisladores deben de moverse a la misma velocidad que los desarrolladores de IA.
Sam Altman propone la creación de un organismo internacional de supervisión para la IA
Sam Altman destacó que las empresas desarrolladoras no pueden ser las únicas encargadas de auditar sus propios sistemas.
Es por ello que propone la creación de organismos internacionales de supervisión similares a los que regulan la energía nuclear.
“Esperamos que el mundo pueda necesitar algo parecido al OIEA para la coordinación internacional de la IA, con la capacidad de responder rápidamente a las circunstancias cambiantes”
Sam Altman
Estos organismos deben de ser capaces de realizar pruebas de seguridad rigurosas antes de que un modelo de IA sea liberado al público.
Sam Altman insistió que la regulación debe ser global y no fragmentada, pues esto podría ser contraproducente.
“La centralización de esta tecnología en una sola empresa o país podría conducir a la ruina”
Sam Altman
Destacó que se necesita un marco unificado que permita la innovación, pero que establezca “interruptores de apagado” claros y protocolos de transparencia sobre los datos utilizados para el entrenamiento de los algoritmos de nueva generación.
“Los próximos años pondrán a prueba a la sociedad global, ya que esta tecnología continúa mejorando a un ritmo vertiginoso. Podemos optar por empoderar a las personas o por concentrar el poder”
Sam Altman