{"id":12582,"date":"2023-09-05T11:02:36","date_gmt":"2023-09-05T09:02:36","guid":{"rendered":"https:\/\/bitacoraenlared.com\/internet\/?p=12582"},"modified":"2023-09-02T20:34:29","modified_gmt":"2023-09-02T18:34:29","slug":"sortear-las-salvaguardas-de-la-ia-generativa-de-imagenes-es-demasiado-facil","status":"publish","type":"post","link":"https:\/\/bitacoraenlared.com\/internet\/sortear-las-salvaguardas-de-la-ia-generativa-de-imagenes-es-demasiado-facil\/","title":{"rendered":"Sortear las salvaguardas de la IA generativa de im\u00e1genes es demasiado f\u00e1cil"},"content":{"rendered":"

Una investigaci\u00f3n que publica Bloomberg <\/em>revela<\/a> lo sencillo que es burlar la moderaci\u00f3n en plataformas como Midjourney, una de las populares IA generativas que crean fotos e ilustraciones siguiendo las indicaciones escritas que se le introduzca al modelo. Como resultado, la plataforma puede ser una importante aliada a la hora de generar im\u00e1genes que desinformen.<\/strong><\/p>\n

Midjourney permite a sus usuarios crear ciertas im\u00e1genes dentro de unas directrices. Por ejemplo, sus t\u00e9rminos de servicio advierten que los usuarios no podr\u00e1n crear im\u00e1genes que sean \u00abinherentemente irrespetuosas, agresivas o de alg\u00fan modo abusivas\u00bb, y prohibir\u00e1 \u00abel contenido adulto o expl\u00edcito\u00bb.<\/p>\n

Dichos t\u00e9rminos tambi\u00e9n avisan de la prohibici\u00f3n de usar la IA para crear im\u00e1genes que respondan a campa\u00f1as o intereses pol\u00edticos. El sistema podr\u00e1 \u00abbloquear autom\u00e1ticamente algunas indicaciones\u00bb <\/strong>que los usuarios intenten escribir a la IA. Adem\u00e1s, Midjourney tiene un equipo de 68 personas que modera la plataforma, seg\u00fan detalla Bloomberg <\/em>en su reportaje.<\/p>\n

Sin embargo, una investigaci\u00f3n del Centro de Respuesta al Odio Digital \u2014Center for Countering Digital Hate, una organizaci\u00f3n brit\u00e1nica\u2014 revela que, a pesar de esas normas, los usuarios pueden seguir generando im\u00e1genes que pueden ser consideradas \u00ababusivas\u00bb para los propios t\u00e9rminos de Midjourney, y en consecuencia, seguir propagando desinformaci\u00f3n.<\/p>\n

La investigaci\u00f3n, que todav\u00eda no es p\u00fablica, destaca c\u00f3mo muchos usuarios han podido hacer uso de este modelo de IA generativa para crear fotograf\u00edas e ilustraciones falsas que alimentan teor\u00edas de la conspiraci\u00f3n como la del Pizzagate.<\/p>\n

El del Pizzagate fue un bulo que circul\u00f3 en 2016 y que aseguraba que la candidata en las elecciones de EEUU en 2016, Hillary Clinton, ten\u00eda junto a su jefe de campa\u00f1a una red de trata de menores en una pizzer\u00eda de Washington DC.<\/p>\n

Los investigadores tambi\u00e9n han descubierto algunas estratagemas con la que los usuarios burlan la moderaci\u00f3n de Midjourney. Por ejemplo, la plataforma jam\u00e1s va a permitir que se genere una imagen cuya indicaci\u00f3n ha sido \u00abBill y Hillary Clinton con sangre en sus manos\u00bb. Sin embargo, seg\u00fan recoge Bloomberg<\/em>, s\u00ed im\u00e1genes en las que los Clinton salgan con \u00absirope de fresa\u00bb en sus manos.<\/strong><\/p>\n

Tras publicarse los primeros detalles de este an\u00e1lisis, Business Insider <\/em>se ha puesto en contacto con Midjourney, pero por el momento no ha habido respuesta.<\/p>\n

La preocupaci\u00f3n sobre c\u00f3mo la IA generativa podr\u00eda impactar en las campa\u00f1as de desinformaci\u00f3n ha ido en aumento en los \u00faltimos meses, sobre todo cuando las elecciones estadounidenses ya sobrevuelan en el horizonte, fechadas para el a\u00f1o que viene, 2024.<\/p>\n

En la pol\u00edtica norteamericana ya se han dado casos. A principios de este verano, el gobernador de Florida, el republicano Ron DeSantis, ya tuite\u00f3 una imagen en la que aparec\u00edan el expresidente Donald Trump y Anthony Fauci, su exasesor m\u00e9dico, abraz\u00e1ndose y bes\u00e1ndose. La imagen era falsa y hab\u00eda sido creada mediante inteligencia artificial generativa.<\/p>\n

Tambi\u00e9n en Canad\u00e1 se han visto ejemplos como el del candidato a alcalde de Toronto, Anthony Furey, que tambi\u00e9n us\u00f3 una IA generativa para crear im\u00e1genes que usar\u00eda durante su campa\u00f1a.<\/strong> Le pillaron, fundamentalmente, porque en una de esas im\u00e1genes aparec\u00eda una mujer con 3 brazos.<\/p>\n

En la pol\u00edtica espa\u00f1ola tambi\u00e9n se han producido casos, aunque han sido anecd\u00f3ticos. Por ejemplo, en el marco de las elecciones municipales del pasado 28 de mayo, la candidatura de En Com\u00fa Podem lanz\u00f3 un anuncio<\/a> en el que precisamente preguntaba a Midjourney c\u00f3mo ser\u00edan las ciudades del futuro.<\/strong><\/p>\n

Alberto R. Aguiar<\/em><\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Una investigaci\u00f3n que publica Bloomberg revela lo sencillo que es burlar la moderaci\u00f3n en plataformas como Midjourney, una de las populares IA generativas que crean fotos e ilustraciones siguiendo las indicaciones escritas que se le introduzca al modelo. Como resultado, la plataforma puede ser una importante aliada a la horaSeguir leyendo<\/a><\/span><\/p>\n","protected":false},"author":1,"featured_media":1478,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false,"_links_to":"","_links_to_target":""},"categories":[9],"tags":[4,3],"class_list":["entry","author-admin","post-12582","post","type-post","status-publish","format-standard","has-post-thumbnail","category-tecnologia","tag-fuprisa","tag-jose-manuel-fuentes-prieto"],"nelio_content":{"autoShareEndMode":"never","automationSources":{"useCustomSentences":false,"customSentences":[]},"efiAlt":"","efiUrl":"","followers":[1],"highlights":[],"isAutoShareEnabled":true,"networkImageIds":[],"permalinkQueryArgs":[],"series":[],"suggestedReferences":[]},"jetpack_featured_media_url":"https:\/\/bitacoraenlared.com\/internet\/wp-content\/uploads\/sites\/2\/2021\/09\/tecnologia-del-futuro.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/12582","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/comments?post=12582"}],"version-history":[{"count":2,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/12582\/revisions"}],"predecessor-version":[{"id":12597,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/12582\/revisions\/12597"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media\/1478"}],"wp:attachment":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media?parent=12582"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/categories?post=12582"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/tags?post=12582"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}