Tomarse en serio las advertencias de la IA

El pasado 9 de abril, Anthropic, una de las empresas que pugnan por ser la punta de lanza de la inteligencia artificial generativa en el mundo, anunció que su modelo Mythos había detectado “miles” de vulnerabilidades de software “de alta y crítica gravedad” que no habían encontrado ni siquiera sus propios desarrolladores. La empresa ha advertido que el modelo puede hacer lo mismo con cualquier sistema informático, y anuncia que no va a poner esta herramienta por ahora en manos del público porque le preocupa lo que podrían hacer con ella actores malignos. Mientras, ha creado un grupo de trabajo con medio centenar de empresas, entre ellas rivales como Apple y Microsoft, para probar lo que puede hacer Mythos con sus sistemas.

Seguir leyendo