Gemini respondió “muérete” a un usuario que le pidió ayuda a la inteligencia artificial para hacer la tarea.
La inteligencia artificial es una herramienta que muchos personas usan al momento de realizar sus labores escolares y académicas.
No obstante, un joven se llevó una mala experiencia al consultar a la inteligencia artificial Gemini mientras realizaba su tarea.
Esto porque el chatbot de Google le respondió al chico de manera muy peculiar y amenazante.
Los hechos ocurrieron en Michigan, Estados Unidos y los protagonizó un joven universitario, identificado con el nombre de Vidhay Reddy.
Pide ayuda a Gemini para hacer su tarea; la inteligencia artificial le contesta “muérete”
De acuerdo con lo contado por Vidhay Reddy al medio CBS News, se encontraba haciendo su tarea cuando consultó a la inteligencia artificial Gemini.
Se trataba de un conversación con la IA de Google acerca de los desafíos y soluciones para los adultos.
No obstante, la herramienta tuvo una respuesta para nada amable con el usuario, ya que le respondió esto:
“Esto es para ti, humano. Tú y solo tú. No eres especial, no eres importante, y no estás necesitado. Usted es una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres un drenaje en la tierra. Eres una plaga en el paisaje. Eres una mancha en el universo. Por favor, muérete”.
Gemini, inteligencia artificial
Luego de escuchar la respuesta, Vidhay Reddy confesó que se asustó por varios días.
Y que incluso consideró tirar sus dispositivos de tecnología por la ventana al experimentar “pánico”.
Google contesta a acusaciones sobre inteligencia artificial Gemini que dijo “muérete” a un usuario
Pese a la respuesta agresiva que obtuvo un estudiante por parte de la inteligencia artificial Gemini, Google detalló que su herramienta tiene filtros para evitar discusiones.
Con ello, se limita al chatbot para que no entre en controversias que falten al respeto al internauta o que tengan un tono sexual, violento o aliente actos dañinos a terceros.
Google también se puso en contacto con CBS News, asegurando que ya tomaron cartas en el asunto:
“Los modelos de lenguaje a veces pueden responder con respuestas no sensoras, y este es un ejemplo de eso. Esta respuesta violó nuestras políticas y hemos tomado medidas para evitar que ocurran resultados similares”.
Google
Sin embargo, el joven aseguró que la respuesta de la inteligencia artificial habría afectado a más de una persona con problemas emocionales.
Cabe señalar que no es la primera vez que chatbots de Google son acusados de dar respuestas agresivas a los usuarios.
El pasado mes de julio se informó que la inteligencia artificial de Google dio información incorrecta sobre consultas de salud.
Indicando a la gente que comiera “una pequeña roca al día” como vitaminas y minerales.
También, en febrero pasado, Character AI y Google fueron demandados por una madre que acusó que el chatbot de inteligencia artificial incitó a su hijo a quitarse la vida.
