La filósofa hispanomexicana Carissa Véliz, especialista en ética tecnológica y profesora en la Universidad de Oxford, ha realizado una advertencia sobre los riesgos de la inteligencia artificial (IA) predictiva en su reciente libro titulado Profecía. En este ensayo, Véliz expone cómo las predicciones de futuro promovidas por Silicon Valley no son meros augurios, sino estrategias de poder que buscan explotar la ansiedad ciudadana para moldear la realidad de acuerdo con intereses económicos específicos.
La tecnología como herramienta de poder
Véliz sostiene que la tecnología no es neutral y que las predicciones sociales actúan como órdenes encubiertas. Según la filósofa, cuando un ejecutivo tecnológico plantea que en el futuro la IA será omnipresente, lo que realmente está haciendo es tratar de imponer una visión futura que le beneficie económicamente. La preocupación surge cuando estas predicciones se interpretan como hechos por la prensa, los ciudadanos y, en el peor de los casos, los gobiernos.
“Las predicciones sociales son órdenes encubiertas. Cuando un directivo tecnológico dice que en el futuro utilizaremos inteligencia artificial para todo, está intentando que actúes de forma que cumplas su visión de futuro: la que le llena los bolsillos.”
El ciclo del capitalismo de la atención
El capitalismo de la atención se presenta como aliado de esta estrategia. La ansiedad por conocer el futuro y estar preparados ante lo desconocido lleva a la sociedad a demandar orientación de quienes controlan la narrativa tecnológica. Véliz explica que esta perpetua búsqueda de seguridad convierte a las personas en vulnerables, facilitando el control por parte de las grandes corporaciones tecnológicas.
“Están cultivando la ansiedad, un estado emocional perfecto para que seamos vulnerables a su conquista de poder.”
La incertidumbre como ventaja
A pesar de la ansiedad que provoca la incertidumbre, Véliz sostiene que esta situación es positiva, ya que indica que el futuro no está predeterminado y que existe la capacidad de influir en él. La filósofa advierte sobre los peligros de un futuro totalmente predecible, equiparable a un estado policial, donde la falta de libertad sería evidente.
“La manera más fiable de predecir el futuro es determinarlo. La incertidumbre es un grandísimo regalo: significa que el futuro no está escrito y que tienes la habilidad para interceder.”
Riesgos de la IA predictiva
Los modelos de IA que predicen situaciones como el flujo migratorio o la concesión de ayudas públicas pueden ser utilizados como herramientas oraculares que afectan a los más vulnerables. Estos sistemas toman decisiones significativas sin ofrecer explicaciones, lo que, según Véliz, va en contra de los principios de las democracias liberales, donde el diálogo y el razonamiento con quienes establecen las normas son fundamentales.
“Un sistema en el que no se dan ni reciben razones, en el que no hay con quién argumentar, es una vía rápida hacia el totalitarismo.”
El papel del Altruismo Eficaz
El Altruismo Eficaz es una corriente filosófica que, según Véliz, ha sido adoptada por magnates tecnológicos para justificar acciones bajo el supuesto beneficio de un futuro lejano. Esta ideología, que se basa en la capacidad de predecir consecuencias, resulta peligrosa al revestir de moralidad acciones que en realidad son maniobras de poder.
“El Altruismo Eficaz es una ideología peligrosa porque es muy efectiva dando un barniz de aceptabilidad o de moralidad a acciones que realmente son juegos de poder.”
La IA como nueva deidad
Véliz observa que algunos sectores han comenzado a venerar la IA como si de una deidad se tratara, capaz de condenar o salvar a la humanidad. Este argumento se utiliza como herramienta de marketing para captar la atención y atraer inversiones, pero también refleja una creencia casi religiosa que se ha establecido entre algunos defensores fervientes de la tecnología.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!