Toggle light / dark theme

Anthropic detecta usos de Claude para planificar “guerras cognitivas” y posibles armas biológicas

El documento, compartido a través del blog de Anthropic, aumenta las preocupaciones sobre las capacidades de los sistemas de IA para ocasionar la desaparición de la humanidad. “A medida que los modelos se vuelven más capaces, sus riesgos aumentarán, a menos que los desarrolladores de IA y quienes defienden a la sociedad tomen medidas para hacerlos más seguros”, subrayó la compañía.

Durante el periodo de evaluación, Anthropic identificó cinco casos de actores que utilizaron sus modelos de maneras que podrían impulsar el desarrollo de armas biológicas. Según la empresa, esta podría ser la primera vez que una compañía privada de IA o de otro tipo comparte públicamente el posible uso indebido de sus productos para este fin.

Leave a Comment

Lifeboat Foundation respects your privacy! Your email address will not be published.

/* */