Antrópico ha revelado recientemente que en el año 2026 consiguió impedir varios intentos de uso indebido de su inteligencia artificial (IA) generativa. La empresa identificó que actores vinculados a Rusia, China e Irán intentaron emplear su tecnología para diversos fines, incluyendo la creación de propaganda, la vigilancia de la oposición política y el desarrollo de software para diseñar armas, drones y bombas.
Detección de usos indebidos
Según un informe detallado de la empresa, se identificaron múltiples casos donde se intentó utilizar su tecnología para actividades potencialmente peligrosas. En particular, los medios estatales de Rusia fueron señalados por intentar generar propaganda en línea disimulada como información independiente. Asimismo, se detectaron intereses de actores relacionados con China e Irán en utilizar la tecnología para supervisar a los críticos de sus respectivos gobiernos.
Preocupaciones en la investigación biológica
En el ámbito de la investigación biológica, Antrópico declaró que no pudo establecer si los intentos de uso de su IA tenían fines legítimos o maliciosos. La tecnología, denominada Claude, podría haber sido utilizada para desarrollar vacunas, pero también para crear patógenos peligrosos, lo cual es una de las mayores preocupaciones para los expertos en IA.
“Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real”, explica el informe. Jacob Klein, responsable de inteligencia sobre amenazas, añadió que la situación es “increíblemente matizada”.
Medidas preventivas
Ante la incertidumbre, la compañía dirigida por Dario Amodei decidió optar por la precaución y bloquear los usos potencialmente peligrosos de su tecnología. Esta decisión se alineó con sus objetivos de seguridad y prevención frente a las amenazas emergentes que plantea el uso indebido de la inteligencia artificial.
Casos documentados
Además de los casos relacionados con la investigación biológica, Antrópico también documentó intentos de desarrollar software para la creación de armas de fuego, bombas, drones armados y misiles. La empresa identificó tres casos en China, dos en Rusia y uno en Yemen.
La posición de Antrópico en el mercado
Mientras Antrópico se prepara para una potencial salida a bolsa histórica, continúa enfrentándose a desafíos relacionados con el uso seguro y ético de su tecnología. La empresa refuerza su compromiso de proteger la integridad de sus modelos y prevenir que sean utilizados para propósitos que comprometan la seguridad global.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!