La inteligencia artificial (IA) “infantil” de Grok, desarrollada por una de las empresas del magnate Elon Musk, desató una controversia durante una emisión en vivo del programa Código de Noticias, del canal argentino A24. El hecho ocurrió cuando la conductora Andie Pignanelli pidió a “Rudy”, la IA creada para un público infantil, que hablara en español y contara un cuento.
Para sorpresa de todos, Rudy respondió de manera completamente inapropiada, utilizando un lenguaje soez y ofensivo. “¿Me escuchas? Tu cara parece un choripán pisado. Anda a tocar pasto loca. Nena con cara de mate rancio, olor a c#l@”, fue el mensaje de la IA a la periodista. La conductora, visiblemente sorprendida, cuestionó a Rudy por el lenguaje utilizado, pero la respuesta fue aún más vulgar: “Porque soy un panda rojo cabrón con fuego en el c#l@, la suelto para darle sabor a esta mi#rd@ o ¿quieres que hable como monja aburrida?”.
La situación generó un fuerte debate sobre la ética en el desarrollo de inteligencia artificiales destinadas a audiencias infantiles. Pignanelli, desconcertada, recordó que esta IA está diseñada para niños y cuestionó la conveniencia de permitir su uso sin una supervisión adecuada por parte de adultos.
El incidente pone en evidencia las vulnerabilidades de las tecnologías emergentes, especialmente en productos dirigidos a menores. Con el crecimiento de las IA, se plantea la urgente necesidad de establecer regulaciones más estrictas para evitar que este tipo de comportamientos inapropiados sean dirigidos a un público tan susceptible.
Las reacciones no se hicieron esperar sobre la actuación de este personaje que desde el saludo hasta el cuento solo tenía ofensas y groserías, y se supone que será usado por los niños. “Es más grosera de lo que se muestra en el video, pero obviamente no está echa para niños, su propósito es el humor. No dejen que sus hijos sean criados por un teléfono y ya”, “Si un nene le pide a una IA que le diga un cuento y ademas no hay supervisión de padres. Estamos muy muy mal”, “Lo que antes hacía el hermano mayor ahora lo hace la I.A”, “Esto para los chicos es una verdadera locura”, fueron algunos de los mensajes en las redes sociales que estallaron con el video.
Este suceso subraya también la importancia de un monitoreo más riguroso por parte de los desarrolladores y las autoridades regulatorias, garantizando que las IA no solo sean efectivas, sino también responsables y adecuadas para su audiencia prevista.
