Grok, Elon Musk y el peligro de las fotos con IA: ¿Hasta dónde vamos a llegar?

¿Has visto las últimas locuras que están circulando por X —antes Twitter—? Parece que Elon Musk ha soltado un monstruo llamado Grok, y las redes sociales están que arden. Pese a la gran utilidad de la inteligencia artificial, que ya es capaz de ayudarte en todo, cuidado.

¿Qué pasa cuando estas herramientas se utilizan para manipular fotos y crear contenido falso o incluso hiriente? Con herramientas como Grok, en cuestión de horas esto se ha podido ver a gran escala y la línea entre lo real y lo falso se vuelve invisible.

En pocas palabras, se ha abierto un mundo de posibilidades increíblemente positivas, pero también ha dado vía libre el mal uso de esta tecnología. Ahora, cualquier persona con un ordenador y un poco de curiosidad puede crear imágenes muy top o, peor aún, falsas y que atentan contra el honor de todo tipo de personas.

Imagina ver en las redes sociales una foto de tu amigo con una famosa, como si estuvieran en una fiesta juntos. Al principio, puede parecer divertido, pero luego te das cuenta de que es solo una imagen generada por IA. ¿Y si esa imagen se usa para hacerle daño o para difundir rumores? Ahí es donde empieza el verdadero caos.

«Estamos viendo cómo cualquier persona es capaz de realizar un ‘promt’ para pedir que un político o una persona pública, aparezca en una situación falsa. El alto nivel de detalle de las imágenes hace que, junto al texto adecuado y en los canales correctos, puedan fabricarse fake news de forma muy precisa y difíciles de identificar. Esto es un serio problema que vamos a tener o, más bien, tenemos ya, contra las campañas de desinformación», nos explica en una entrevista para Computer Hoy Rafa López, CTO de Miolnir.

El problema no es solo que se puedan crear imágenes graciosas o absurdas; es que esta tecnología también puede ser utilizada para manipular la realidad. Los deepfakes, por ejemplo, son vídeos o imágenes alteradas que hacen parecer que alguien ha dicho o hecho algo que nunca ocurrió. Esto ya ha pasado con figuras públicas y puede tener consecuencias muy graves.

Imagina que alguien crea un vídeo falso de un político diciendo algo escandaloso. Esa imagen puede volverse viral en cuestión de minutos y afectar la reputación de esa persona.

Las manipulaciones de fotografías no son nada nuevo, pero la IA ha llevado esta práctica a otro nivel. Con herramientas como Grok, modificar una imagen o crear una desde cero es tan fácil como hacer clic en un botón. Esto significa que cualquier persona puede alterar fotos para hacerlas parecer reales, incluso si no lo son.

Este es un tema muy perseguido por muchos, conocido como democratización de la IA. Es decir, que cualquier persona de a pie pueda tener acceso a estar increíbles herramientas. Sin embargo, todo tiene un precio a pagar.