{"id":17666,"date":"2024-10-22T09:14:07","date_gmt":"2024-10-22T07:14:07","guid":{"rendered":"https:\/\/bitacoraenlared.com\/internet\/?p=17666"},"modified":"2024-10-21T09:24:12","modified_gmt":"2024-10-21T07:24:12","slug":"se-han-quitado-la-mascara-un-experto-en-ia-dice-que-openai-se-convertira-en-la-empresa-mas-orwelliana-de-todos-los-tiempos","status":"publish","type":"post","link":"https:\/\/bitacoraenlared.com\/internet\/se-han-quitado-la-mascara-un-experto-en-ia-dice-que-openai-se-convertira-en-la-empresa-mas-orwelliana-de-todos-los-tiempos\/","title":{"rendered":"\u00abSe han quitado la m\u00e1scara\u00bb: un experto en IA dice que OpenAI se convertir\u00e1 en la empresa m\u00e1s ‘orwelliana’ de todos los tiempos"},"content":{"rendered":"

En la literatura contempor\u00e1nea,\u00a0la novela\u00a01984<\/em>, de George Orwell<\/a>, es especialmente conocida por alertar a sus lectores de los peligros que conllevan los reg\u00edmenes totalitarios basados en la hipervigilancia del individuo. La obra dist\u00f3pica est\u00e1 ambientada en\u00a0un mundo imaginario en el que un \u00abPartido\u00bb omnisciente vigila constantemente a sus ciudadanos<\/strong>.<\/p>\n

Gary Marcus,\u00a0experto en inteligencia artificial<\/a>, ha asegurado que la organizaci\u00f3n que est\u00e1 impulsando la carrera mundial por la IA est\u00e1 a punto de hacer realidad la ficci\u00f3n de Orwell.<\/p>\n

\u00abMi apuesta es que\u00a0OpenAI se va a convertir en la compa\u00f1\u00eda m\u00e1s\u00a0<\/strong>orwelliana\u00a0<\/strong><\/em>de todos los tiempos<\/strong>\u00ab, comentaba la semana pasada, en un debate en el que particip\u00f3 junto al veterano investigador de Google, Peter Norvig, y que tuvo lugar en el Centro de Inteligencia Artificial Centrada en el Ser Humano de Stanford. \u00abLo que van a verse presionados a hacer es a convertirse en una empresa de vigilancia\u00bb.<\/p>\n

Marcus\u00a0es investigador<\/a>\u00a0y ha escrito varios libros, entre ellos\u00a0Reiniciando la IA: Construyendo una inteligencia artificial en la que podamos confiar<\/em><\/a>\u00a0y, m\u00e1s recientemente,\u00a0Domando a Silicon Valley<\/em><\/a>.<\/p>\n

La desarrolladora de ChatGPT ha ganado importancia, en parte, por ofrecer a las organizaciones acceso a sus modelos y a sus recursos de inteligencia artificial. Sin embargo, Marcus considera que la compa\u00f1\u00eda dirigida por\u00a0Sam Altman<\/a>\u00a0no va a ser capaz de ganar suficiente dinero como para respaldar su valoraci\u00f3n de esa manera porque la tecnolog\u00eda no est\u00e1 lo suficientemente avanzada.<\/p>\n

\u00abOpenAI vendi\u00f3 el sue\u00f1o de la IA universal para todos los prop\u00f3sitos y, en 2023, pr\u00e1cticamente todas las grandes empresas realizaron estudios piloto sobre esa premisa\u00bb, ha declarado este experto a\u00a0Business Insider\u00a0<\/em>(a trav\u00e9s de un mensaje directo de X, la red social anteriormente conocida como Twitter). \u00abPero,\u00a0en 2024, muchos estudios de campo hablan de decepci\u00f3n: la tecnolog\u00eda todav\u00eda no es lo bastante fiable para llevarla a producci\u00f3n<\/strong>, porque est\u00e1 plagada de problemas como las alucinaciones o los errores garrafales. As\u00ed que muchas empresas empiezan a ser precavidas\u00bb.<\/p>\n

Aun as\u00ed, todav\u00eda existir\u00eda otra forma de ganar dinero: la vigilancia. La inteligencia artificial puede sintetizar grandes cantidades de datos r\u00e1pidamente, ayudando a quienquiera que pueda pagar por ella a peinar los datos, ya sea\u00a0una megacorporaci\u00f3n que investiga a su plantilla<\/a>\u00a0o una campa\u00f1a pol\u00edtica dirigida a votantes concretos.<\/p>\n

Marcus sospecha que\u00a0la startup de IA acabar\u00e1 aprovechando esa potencial fuente de ingresos y se convertir\u00e1 en una poderosa compa\u00f1\u00eda de vigilancia<\/strong>.<\/p>\n

La preocupaci\u00f3n de que la tecnolog\u00eda de OpenAI pueda utilizarse para potenciar los esfuerzos de vigilancia ya se ha planteado antes. En junio, la desarrolladora de ChatGPT anunci\u00f3 que hab\u00eda nombrado al exdirector de la NSA (la Agencia de Seguridad Nacional de Estados Unidos, por sus siglas en ingl\u00e9s),\u00a0Paul Nakasone<\/a>, miembro de su junta directiva, lo que provoc\u00f3 un aluvi\u00f3n de cr\u00edticas.<\/p>\n

El activista estadounidense\u00a0Edward Snowden calific\u00f3 el nombramiento de \u00abtraici\u00f3n calculada a los derechos de todas las personas de la Tierra\u00bb<\/strong>.<\/p>\n

Snowden a\u00f1adi\u00f3 entonces a trav\u00e9s de una publicaci\u00f3n de X que la \u00abintersecci\u00f3n de la inteligencia artificial con el oc\u00e9ano de datos de vigilancia masiva que se ha ido acumulando en las \u00faltimas dos d\u00e9cadas\u00bb por parte de las autoridades de EEUU iba a poner unos poderes \u00abverdaderamente terribles\u00bb en manos de \u00abunos pocos que no tendr\u00e1n que rendir cuentas\u00bb.<\/p>\n

Marcus, el investigador especializado en IA,\u00a0ha instado a los trabajadores de OpenAI a que expresen sus preocupaciones<\/a>\u00a0y digan: \u00abNo quiero formar parte de esto\u00bb.<\/p>\n

Esta no es la primera vez que Marcus critica a OpenAI. Tras coincidir el a\u00f1o pasado con su CEO, Sam Altman, en una declaraci\u00f3n ante el Capitolio estadounidense, el experto se mostr\u00f3 impresionado y desconfiado al mismo tiempo, se\u00f1alando que\u00a0Altman no parec\u00eda \u00absincero en sus preocupaciones\u00bb sobre el potencial de esta tecnolog\u00eda para hacer el mal<\/strong>.<\/p>\n

A principios de este a\u00f1o, Marcus afirm\u00f3 que todav\u00eda esperaba que Altman pudiese volver a encarrilar su organizaci\u00f3n como una \u00abfuerza del bien\u00bb. Ahora, no est\u00e1 tan seguro.<\/p>\n

\u00abEn los \u00faltimos meses, se ha quitado realmente la m\u00e1scara y dudo seriamente de que vuelva al redil\u00bb, ha se\u00f1alado el investigador a este medio de comunicaci\u00f3n,\u00a0con relaci\u00f3n al plan de la startup de reestructurar su negocio<\/a>. \u00abLa promesa a los inversores de convertirse en una empresa con \u00e1nimo de lucro significa b\u00e1sicamente que ese barco ha zarpado\u00bb.<\/p>\n

Business Insider\u00a0<\/em>ha tratado de ponerse en contacto con OpenAI, pero, por el momento, no ha obtenido respuesta.<\/p>\n

Ram\u00f3n Armero<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

En la literatura contempor\u00e1nea,\u00a0la novela\u00a01984, de George Orwell, es especialmente conocida por alertar a sus lectores de los peligros que conllevan los reg\u00edmenes totalitarios basados en la hipervigilancia del individuo. La obra dist\u00f3pica est\u00e1 ambientada en\u00a0un mundo imaginario en el que un \u00abPartido\u00bb omnisciente vigila constantemente a sus ciudadanos. GarySeguir leyendo<\/a><\/span><\/p>\n","protected":false},"author":1,"featured_media":17667,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false,"_links_to":"","_links_to_target":""},"categories":[9],"tags":[4,3],"class_list":["entry","author-admin","post-17666","post","type-post","status-publish","format-standard","has-post-thumbnail","category-tecnologia","tag-fuprisa","tag-jose-manuel-fuentes-prieto"],"nelio_content":{"autoShareEndMode":"never","automationSources":{"useCustomSentences":false,"customSentences":[]},"efiAlt":"","efiUrl":"","followers":[1],"highlights":[],"isAutoShareEnabled":true,"networkImageIds":[],"permalinkQueryArgs":[],"series":[],"suggestedReferences":[]},"jetpack_featured_media_url":"https:\/\/bitacoraenlared.com\/internet\/wp-content\/uploads\/sites\/2\/2024\/10\/surveillance-cameras.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/17666","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/comments?post=17666"}],"version-history":[{"count":1,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/17666\/revisions"}],"predecessor-version":[{"id":17668,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/17666\/revisions\/17668"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media\/17667"}],"wp:attachment":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media?parent=17666"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/categories?post=17666"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/tags?post=17666"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}