Jacob Coxon, ingeniero de la empresa tecnológica Anthropic, ha renunciado a su puesto advirtiendo sobre los riesgos potenciales del desarrollo de la inteligencia artificial (IA). Coxon expresó su preocupación en un mensaje público, donde afirmó que la IA podría representar un peligro existencial para la humanidad.
Preocupaciones sobre la superinteligencia
En su mensaje, Coxon destacó que tanto Anthropic como OpenAI, empresas líderes en el desarrollo de IA, están inmersas en una carrera por crear una “superinteligencia” capaz de mejorar sus propias capacidades sin intervención humana. Este desarrollo, según él, podría resultar en un riesgo significativo para la civilización.
“Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”, afirmó Coxon.
El exingeniero de OpenAI criticó la falta de responsabilidad de ambas empresas, a pesar de que en Anthropic se entiende el riesgo, la compañía se encuentra atrapada en la competencia por llegar primero.
Apoyo y escepticismo
Evan Hubinger, exjefe de Coxon, respaldó sus declaraciones, sugiriendo que existe una probabilidad significativa de que la IA pueda causar daños masivos en el futuro. Sin embargo, matizó que los modelos actuales, como ChatGPT y Claude, presentan un riesgo bajo.
“¡De verdad creemos que la IA puede matar a todo el mundo! Yo personalmente creo que la probabilidad es superior al 10% en la próxima década”, sostuvo Hubinger.
Por otro lado, Melanie Mitchell, catedrática de Complejidad en el Instituto Santa Fe, calificó estas preocupaciones como especulaciones sin base científica. Mitchell afirmó que la idea de que la IA podría exterminar a la humanidad carece de fundamentos sólidos.
La narrativa de la IA en Silicon Valley
Desde hace años, empresas como OpenAI y Anthropic han promovido una narrativa alarmista sobre los riesgos de la IA, en parte como estrategia para captar inversiones. Sam Altman, director ejecutivo de OpenAI, ha descrito la superinteligencia como una amenaza potencial para la supervivencia de la humanidad.
El concepto de la inteligencia artificial general (AGI), una forma de IA tan avanzada como un ser humano, ha alimentado estas preocupaciones. Según Karen Hao, periodista especializada en tecnología, existe una tendencia casi religiosa en Silicon Valley hacia el desarrollo de una IA que podría cambiar el curso de la civilización.
Aspectos éticos y filosóficos
El debate sobre la IA también está influido por el Largoplacismo, una postura ética que prioriza los hipotéticos problemas futuros sobre los actuales. Émile P. Torres, filósofo especializado en extinción humana, critica esta visión por permitir que los más ricos ignoren problemas actuales como la pobreza, enfocándose en amenazas lejanas.
“Esa visión del mundo apela a los más ricos porque les proporciona una excusa moral perfecta para ignorar problemas como la pobreza”, opinó Torres.
Carissa Véliz, filósofa de la Universidad de Oxford, considera que esta ideología es peligrosa, ya que otorga una apariencia de moralidad a acciones que son, en realidad, juegos de poder.
Precedentes y advertencias
La renuncia de Coxon no es un caso aislado. En 2024, otros investigadores como William Saunders, Daniel Kokotajlo y Jan Leike también abandonaron OpenAI, alertando sobre los peligros de desarrollar máquinas más inteligentes que los humanos.
El caso de Dario Amodei, quien dejó OpenAI para fundar Anthropic con la promesa de crear una empresa más ética, ejemplifica las tensiones dentro de la industria sobre cómo manejar los riesgos asociados con el avance de la inteligencia artificial.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!