\u00abTal vez estemos creando un mundo en el que ya nadie est\u00e9 seguro sin confinarse en casa porque podr\u00edas ser perseguido por enjambres de robots asesinos\u00bb.<\/p>\n
Estas palabras de advertencia las ha dicho Jann Tallinn, uno de los ingenieros que particip\u00f3 en el nacimiento de Skype. Tallinn las ha pronunciado en una reciente entrevista<\/a> con Al Jazeera<\/em>.<\/p>\n El programador estonio es tambi\u00e9n el fundador del Cambridge Centre for the Study of Existential Risk y del Future of Life Institute, dos organizaciones que se dedican al estudio y la mitigaci\u00f3n de potenciales riesgos, y en espec\u00edfico, de los riesgos derivados del desarrollo de tecnolog\u00edas avanzadas con inteligencia artificial.<\/p>\n Las referencias de Tallinn a enjambres de robots asesinos recuerdan un cortometraje de 2017 titulado Slaughterbots<\/em> que public\u00f3 el propio Fuutre of Life Institute<\/a> como parte de una campa\u00f1a en la que se advert\u00eda de los riesgos que entra\u00f1a la implantaci\u00f3n de tecnolog\u00edas IA en el desarrollo de armas.<\/p>\n La pel\u00edcula plantea un futuro dist\u00f3pico en el que el mundo ha sido conquistado por drones militares controlados por una inteligencia artificial.<\/p>\n A medida que la IA contin\u00faa evolucionando, a Tallinn le preocupa especialmente las implicaciones que podr\u00edan tener sus usos militares.<\/strong><\/p>\n \u00abPoner la IA en el \u00e1mbito militar hace que el control de la humanidad sobre esta tecnolog\u00eda se torne m\u00e1s insostenible, porque es en ese momento en el que su desarrollo formar\u00e1 parte de una carrera armament\u00edstica\u00bb, explic\u00f3 Tallinn en esa entrevista.<\/p>\n \u00abCuando est\u00e1s en medio de una carrera de armas, no tienes mucho margen de maniobra como para pensar en las implicaciones que puede tener la tecnolog\u00eda que est\u00e1s creando. Solo puedes pensar en las posibilidades que supone y qu\u00e9 ventaja estrat\u00e9gica te puede dar\u00bb.<\/p>\n Adem\u00e1s, que la IA sea ya parte de la guerra podr\u00eda hacer que sea pr\u00e1cticamente imposible atribuir y responsabilizar a nadie de futuros ataques, abunda el especialista.<\/p>\n \u00abLa evoluci\u00f3n natural para una guerra completamente automatizada es la aparici\u00f3n de enjambres de diminutos drones que cualquiera con dinero pueda producir y desplegar de forma casi an\u00f3nima\u00bb.<\/p>\n El Future of Life Institute ha asegurado a Business Insider <\/em>que comparte las declaraciones que su fundador ha hecho en Al Jazeera<\/em>.<\/p>\n Los miedos de Tallinn y su instituto en realidad son temores que existen desde hace a\u00f1os. El Future for Life Institute fue fundado hace casi una d\u00e9cada, en 2014, y pronto atrajo la atenci\u00f3n de magnates como Elon Musk, quien don\u00f3 10 millones de d\u00f3lares a la organizaci\u00f3n en 2015.<\/p>\n Pero la problem\u00e1tica ha recibido m\u00e1s atenci\u00f3n \u00faltimamente, justo despu\u00e9s de que OpenAI lanzara ChatGPT a finales del a\u00f1o pasado y otros modelos de IA generativa llegaran al gran p\u00fablico, haciendo que se disparara el temor a que la IA acabe quit\u00e1ndole puestos de trabajo a los humanos. Ahora la preocupaci\u00f3n la comparten desde investigadores, famosos, tecn\u00f3logos y ciudadanos normales.<\/p>\n Tambi\u00e9n el cineasta Christopher Nolan ha abundado recientemente que la IA podr\u00eda llegar a tener su momento Oppenheimer. En s\u00edntesis, muchos investigadores se est\u00e1n cuestionando la responsabilidad que podr\u00edan tener a la hora de desarrollar una tecnolog\u00eda cuyas consecuencias podr\u00edan ser imprevisibles.<\/p>\n A principios de este mismo a\u00f1o centenares de expertos, entre ellos el propio Musk, el cofundador de Apple Steve Wozniak, el CEO de Stability AI Emad Mostaque, o investigadores del laboratorio de IA DeepMind de Google y profesores e investigadores firmaron y compartieron una carta abierta propuesta por el propio Future of Life Institute. En la misiva se ped\u00eda una pausa de 6 meses<\/a> en la investigaci\u00f3n y desarrollo de modelos de IA.<\/p>\n Aunque Musk firm\u00f3, el multimillonario CEO de X, SpaceX o Tesla estaba ya contratando personal para lanzar su propia iniciativa sobre IA generativa, que recibe el nombre de xAI.<\/p>\n \u00abLa IA avanzada podr\u00eda representar un profundo cambio en la historia de la vida en la Tierra, y deber\u00eda ser planeada y gestionada con un inmenso cuidado y grandes recursos\u00bb, expon\u00eda aquella carta abierta.<\/p>\n \u00abDesafortunadamente, ese nivel de planeamiento no se est\u00e1 dando, y en los \u00faltimos meses se ha visto que los laboratorios IA se han lanzado a una carrera sin control para desarrollar y desplegar mentes digitales cada vez m\u00e1s potentes que nadie \u2014ni siquiera sus creadores\u2014 podr\u00edan llegar a entender, predecir o controlar\u00bb.<\/p>\n