En la literatura contemporánea, la novela 1984, de George Orwell, es especialmente conocida por alertar a sus lectores de los peligros que conllevan los regímenes totalitarios basados en la hipervigilancia del individuo. La obra distópica está ambientada en un mundo imaginario en el que un «Partido» omnisciente vigila constantemente a sus ciudadanos.
Gary Marcus, experto en inteligencia artificial, ha asegurado que la organización que está impulsando la carrera mundial por la IA está a punto de hacer realidad la ficción de Orwell.
«Mi apuesta es que OpenAI se va a convertir en la compañía más orwelliana de todos los tiempos«, comentaba la semana pasada, en un debate en el que participó junto al veterano investigador de Google, Peter Norvig, y que tuvo lugar en el Centro de Inteligencia Artificial Centrada en el Ser Humano de Stanford. «Lo que van a verse presionados a hacer es a convertirse en una empresa de vigilancia».
Marcus es investigador y ha escrito varios libros, entre ellos Reiniciando la IA: Construyendo una inteligencia artificial en la que podamos confiar y, más recientemente, Domando a Silicon Valley.
La desarrolladora de ChatGPT ha ganado importancia, en parte, por ofrecer a las organizaciones acceso a sus modelos y a sus recursos de inteligencia artificial. Sin embargo, Marcus considera que la compañía dirigida por Sam Altman no va a ser capaz de ganar suficiente dinero como para respaldar su valoración de esa manera porque la tecnología no está lo suficientemente avanzada.
«OpenAI vendió el sueño de la IA universal para todos los propósitos y, en 2023, prácticamente todas las grandes empresas realizaron estudios piloto sobre esa premisa», ha declarado este experto a Business Insider (a través de un mensaje directo de X, la red social anteriormente conocida como Twitter). «Pero, en 2024, muchos estudios de campo hablan de decepción: la tecnología todavía no es lo bastante fiable para llevarla a producción, porque está plagada de problemas como las alucinaciones o los errores garrafales. Así que muchas empresas empiezan a ser precavidas».
Aun así, todavía existiría otra forma de ganar dinero: la vigilancia. La inteligencia artificial puede sintetizar grandes cantidades de datos rápidamente, ayudando a quienquiera que pueda pagar por ella a peinar los datos, ya sea una megacorporación que investiga a su plantilla o una campaña política dirigida a votantes concretos.
Marcus sospecha que la startup de IA acabará aprovechando esa potencial fuente de ingresos y se convertirá en una poderosa compañía de vigilancia.
La preocupación de que la tecnología de OpenAI pueda utilizarse para potenciar los esfuerzos de vigilancia ya se ha planteado antes. En junio, la desarrolladora de ChatGPT anunció que había nombrado al exdirector de la NSA (la Agencia de Seguridad Nacional de Estados Unidos, por sus siglas en inglés), Paul Nakasone, miembro de su junta directiva, lo que provocó un aluvión de críticas.
El activista estadounidense Edward Snowden calificó el nombramiento de «traición calculada a los derechos de todas las personas de la Tierra».
Snowden añadió entonces a través de una publicación de X que la «intersección de la inteligencia artificial con el océano de datos de vigilancia masiva que se ha ido acumulando en las últimas dos décadas» por parte de las autoridades de EEUU iba a poner unos poderes «verdaderamente terribles» en manos de «unos pocos que no tendrán que rendir cuentas».
Marcus, el investigador especializado en IA, ha instado a los trabajadores de OpenAI a que expresen sus preocupaciones y digan: «No quiero formar parte de esto».
Esta no es la primera vez que Marcus critica a OpenAI. Tras coincidir el año pasado con su CEO, Sam Altman, en una declaración ante el Capitolio estadounidense, el experto se mostró impresionado y desconfiado al mismo tiempo, señalando que Altman no parecía «sincero en sus preocupaciones» sobre el potencial de esta tecnología para hacer el mal.
A principios de este año, Marcus afirmó que todavía esperaba que Altman pudiese volver a encarrilar su organización como una «fuerza del bien». Ahora, no está tan seguro.
«En los últimos meses, se ha quitado realmente la máscara y dudo seriamente de que vuelva al redil», ha señalado el investigador a este medio de comunicación, con relación al plan de la startup de reestructurar su negocio. «La promesa a los inversores de convertirse en una empresa con ánimo de lucro significa básicamente que ese barco ha zarpado».
Business Insider ha tratado de ponerse en contacto con OpenAI, pero, por el momento, no ha obtenido respuesta.