Información de Isabella Piedrahita

Publicado en Red de Democracia y Velasco

Desde hace treinta años, los adalides de la tecnología en Silicon Valley tomaron la decisión de acabar con la democracia y tomarse el gobierno estadounidense. Y el mundo. Esto sostiene Gil Duran, autor de “The Nerd Reich: Silicon Valley Fascism and the War on Democracy”. Duran describe con detalle cómo Peter Thiel, Curtis Yarvin, Marc Andreessen, Balaji Srinivasan, Elon Musk y otros “techbros”, junto con sofisticados esquemas de Venture Capital, han desafiado las normas y el Estado al punto que hoy controlan al gobierno de Donald Trump.

Casi tres décadas después, han salido a decir públicamente que tienen miedo. ¿Deberíamos tenerlo también? ¿Qué tanto les podemos creer?

En las últimas semanas, se han pronunciado Bill Gates (Microsoft), Dario Amodei (Anthropic), Elon Musk (Grok) y Sam Altman (OpenAI) sobre el futuro de la inteligencia artificial. El pronóstico es poco alentador, por no decir aterrador. Varios de estos competidores están pidiendo en conjunto ponerle el freno al desarrollo de la IA, hablando de riesgos potenciales tan grandes como la extinción de toda la humanidad.

“Las decisiones que tomemos ahora son críticas”, dice Gates, considerando que, de no regular ahora la inteligencia artificial, se podrá convertir en la peor fuente de injusticia que hemos visto. Con pérdidas masivas de trabajos (y las consecuencias sociales que esto traerá), la posibilidad tangible de que los humanos –y la misma IA– generen daños irreparables, y una muy real afectación al desarrollo cognitivo y social de los niños, niñas y adolescentes.

Algo similar advierte Amodei. Para el CEO de Anthropic, una IA acelerada y desregulada podría llevarnos a perder el control de los sistemas, sufrir serias disrupciones económicas, y exponernos a ciberataques y bioterrorismo. Al preguntarle si genuinamente cree que la inteligencia artificial podría “matar a todos los humanos”, Amodei está “más de acuerdo que en desacuerdo” (traducción: el techbro dice sí). Incluso, tanto Amodei como Altman estuvieron presentes en una sesión especial sobre la IA celebrada nada menos que en el Consejo de Seguridad de las Naciones Unidas. En ese espacio manifestaron que nos encontramos ante el desafío más grave para la seguridad global, y ambos hicieron un llamado a estándares globales.

¿Será exagerado preguntar si la IA va a matarnos a todos? Pues eso parecen pensar los investigadores de Claude Evan Hubinger y Jacob Coxon. Su alerta sacudió la industria de BigTech lo suficiente para provocar debate público, y político, sobre el tema.

Por otro lado, hay otro grupo de techbros que, en vez de tener miedo, tienen ganas de seguir corriendo. O más bien, el miedo que tienen es que el “adversario” les gane la carrera. Entre estos están Mark Zuckerberg (Meta), Jensen Huang (Nvidia) y Demis Hassabis (DeepMind), aunque este recientemente cambió de opinión (con sus reservas).

Luego está Elon Musk, quien cree que la IA va a ser drásticamente más inteligente que los humanos en cinco años, y que en diez ya no tendremos el control como “especie”, comparándonos irónicamente con los chimpancés (¿quien no prefiere parecerse más a un chimpancé que a un robot?). También ve una probabilidad del 10-20% de que robots asesinos “acaben con la humanidad” en diez años. Pero, para tranquilidad de los lectores, Musk también ha manifestado que los robots humanoides masivos harán que haya una abundancia extrema de bienes y servicios; tanto, que el dinero desaparecerá porque dejará de ser necesario; y cualquier persona podrá tener lo que imagine.

Sam Altman, en cambio, no le pone un número al P(doom), como se conoce a la probabilidad de destrucción como resultado de la inteligencia artificial). El CEO de OpenAI es insistente en la responsabilidad que tienen las empresas de evitar ese escenario.

Pero los techbros proponen también soluciones. Varios se han sumado a la iniciativa de más de 1300 trabajadores de la industria, respaldada por Amodei, de regular el ritmo del desarrollo. La propuesta central es desacelerar el desarrollo de la IA –la cual está creciendo a un ritmo sin precedentes– para poder identificar y evaluar los riesgos de esta tecnología y adoptar las medidas necesarias para garantizar su seguridad.

Algunas propuestas incluyen tener evaluadores externos que verifiquen la implementación de prácticas seguras y el cumplimiento de compromisos del sector, coordinación sectorial para establecer estándares comunes y límites al progreso desenfrenado, y coordinación global para traducir estos estándares en regulación internacional. Por otro lado, está claro también el rol de las BigTech en el asunto, quienes tienen la responsabilidad más inmediata de garantizar que los sistemas que están creando sean seguros.

Otra postura habla de una “transición” para preservar nuestra humanidad en momentos en los que la inteligencia artificial nos pueda superar. Desde esta perspectiva se propone catalogar ciertos trabajos como “reservados para humanos” para asegurar la estabilidad laboral, y repensar el valor tributario del trabajo y el capital reduciendo los impuestos para las personas (quienes, si trabajan menos, tendrán menos ingresos) y aumentando los impuestos al consumo de los “tokens” de IA y de la robótica.

También es necesario incluir un elemento de sostenibilidad. A este ritmo, los centros de datos que soportan la inteligencia artificial podrían llegar a usar 9.3 trillones de litros de agua en 2030, suficiente para cubrir las necesidades básicas de agua de más de un billón de personas anual. La alternativa de usar PFAS (“químicos eternos”) tampoco parece una idea considerando que la polución de estas sustancias tiene efectos letales en la salud pública. Por eso, antes de vaciarnos de agua o exponernos a químicos nocivos, estas propuestas de seguridad tienen que contemplar también un elemento de sostenibilidad ambiental (y humanitario).

Aunque la semana pasada en la reunión entre Xi Jinping y Trump se acordó establecer un “diálogo” sobre los riesgos de la IA en noviembre, así como un canal de comunicación para reportar incidentes, el escenario político parece poco viable para este catálogo de soluciones. Trump no quiere poner el freno y, en cambio, China tampoco. Estamos entrando a una guerra fría posmoderna donde todo se reduce al dilema del prisionero. Si Estados Unidos no frena, China tampoco. Si China no frena, Estados Unidos tampoco. Y ninguno de los dos confía en el otro para ambos poner el freno al tiempo. Lo que para ellos parece un gana-gana (¿o un juego de suma cero?), para nosotros –la humanidad no iluminada por Silicon Valley– puede ser un pierde. Un pierde advertido por los techbros.

Es interesante que desde la industria se esté pidiendo calma para analizar los riesgos, implementar estándares de seguridad, buscar cooperación y promover la regulación internacional. Pero si no son las propias BigTech quienes pueden “poner el freno”, ¿entonces quién?

En una reciente entrevista el historiador y filósofo Yuval Noah Harari fue categórico en dos puntos. Primero, si no hacemos nada, en diez años la IA superará la inteligencia humana. Segundo, para él, la IA no es inevitable: está en los gobiernos y en nosotros, como humanidad, tomar el control y hacer algo al respecto. Amodei dice que implementar estas medidas no puede ser algo “voluntario” que hagan las empresas, sino que los ciudadanos deben exigir a los gobiernos que regulen.

La innovación se ha fundamentado en la creatividad humana. Las advertencias de los techbros (iremos descubriendo si su miedo es genuino o si es parte del plan expuesto por Gil Duran) parecen dirigirse a una nueva frontera acerca de la innovación: la responsabilidad por aquello que ha sido creado. Como la inteligencia artificial. Y, si de responsabilidad se trata, quizás no sean buenos momentos para hablar de “menos Estado”, sino todo lo contrario.