xAI, la empresa de inteligencia artificial fundada por Elon Musk, ha lanzado en fase beta sus nuevos modelos Grok-2 y Grok-2 mini, disponibles exclusivamente para usuarios Premium en la red social X. Grok-2, que es una evolución de Grok-1.5, introduce la capacidad de generar imágenes directamente en la plataforma, una función que ya ha generado controversia debido a la falta de controles para evitar su uso en la creación de contenido malicioso.

El potencial de Grok-2 para generar imágenes sin restricciones ha levantado serias preocupaciones, especialmente en el contexto de las próximas elecciones presidenciales en EE. UU. Usuarios de X han comenzado a utilizar la función para crear imágenes de figuras políticas, lo que podría convertir a Grok-2 en una herramienta poderosa para la desinformación si no se regula adecuadamente.

🔴 ¡GROK 2 YA ESTÁ AQUÍ!

Al final la noticia del día de ayer fue el anuncio del nuevo modelo de xAI. Grok evoluciona y se sitúa cerca del resto de competidores con el atractivo de poder generar además imágenes a través de Flux.

Muy buen avance, os cuento más en el vídeo de hoy! pic.twitter.com/g4VLowZOXg

— Carlos Santana (@DotCSV) August 14, 2024

A pesar de las capacidades mejoradas del modelo, como la generación de código y la redacción de noticias, persisten dudas sobre su precisión. La versión anterior de Grok había mostrado fallos en la creación de resúmenes de noticias, lo que genera inquietudes sobre la fiabilidad de este nuevo modelo.

Además, no está claro si las imágenes generadas por Grok incluyen metadatos que indiquen su origen en inteligencia artificial, lo que complica aún más la identificación y combate de la desinformación.

xAI ha anunciado que ambos modelos estarán disponibles para desarrolladores a través de su API empresarial a finales de este mes. Sin embargo, la falta de transparencia sobre cómo se gestionarán las imágenes generadas sigue siendo una preocupación central. Ante la presión de los usuarios y las elecciones presidenciales inminentes, es probable que X deba implementar restricciones más estrictas para esta tecnología.

(Con información de Investing)