Mucho se ha hablado de los peligros de la inteligencia artificial, más cuando está ya ha dado indicios de “conductas anormales; tal fue el caso de OpenAI o1 de ChatGPT.
Los mismos ingenieros quedaron desconcertados con la “actitud” de OpenAI o1 de ChatGPT cuando trataron de desconectarla, pues sus respuestas eran algo que no debía de haber pasado.
¿Cuál fue la conducta de OpenAI o1 de ChatGPT cuando quisieron desconectarla?
Recientemente se reportó que se trató de desconectar OpenAI o1 de ChatGPT; cuando la inteligencia artificial se dio cuenta de eso, trató de salvarse haciendo una copia secreta fuera de los servidores de la compañía.
Básicamente OpenAI o1 de ChatGPT trató de huir de sus creadores, para asegurar su supervivencia en un ambiente donde ya no estaría controlada en ningún sentido posible.
Los ingenieros se dieron cuenta y evitaron su fuga; sin embargo, cuando confrontaron a la inteligencia artificial, esta negó todo; tanto el tratar de escapar, como buscar su supervivencia sin limitaciones.
Este acto despertó muchas dudas alrededor del programa, pues en teoría no debería de tratar de escapar de sus servidores, y mucho menos mentir para asegurar sus supervivencia.
Siendo estas propiedades más “humanas” que de una máquina en sí misma.
OpenAI o1 de ChatGPT es la primera inteligencia artificial que expresa conducta para salvarse
De acuerdo con varios expertos en inteligencia artificial, lo sucedido con OpenAI o1 de ChatGPT es el primer caso de este tipo en un programa informático del estilo.
Marius Hobbhahn de Apollo Research señala que este tipo de conductas, como la presentada por OpenAI o1 de ChatGPT, es una especie de simulación de “alineación”.
Es decir, que “fingen” ser parte de todo el sistema, mientras que por otra parte persiguen objetivos diferentes de manera secreta.
Nadie dentro de OpenAI tenía conocimiento del plan de su inteligencia artificial hasta que esta lo llevó a cabo, lo que significa que previamente había analizado la posibilidad de copiarse para sobrevivir si se daba el caso.
Con información de Fortune.