{"id":12726,"date":"2023-09-14T11:02:13","date_gmt":"2023-09-14T09:02:13","guid":{"rendered":"https:\/\/bitacoraenlared.com\/internet\/?p=12726"},"modified":"2023-09-20T12:05:49","modified_gmt":"2023-09-20T10:05:49","slug":"google-presenta-una-herramienta-para-detectar-imagenes-generadas-por-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/bitacoraenlared.com\/internet\/google-presenta-una-herramienta-para-detectar-imagenes-generadas-por-inteligencia-artificial\/","title":{"rendered":"Google presenta una herramienta para detectar im\u00e1genes generadas por inteligencia artificial"},"content":{"rendered":"

Google<\/strong> ha dado un paso en su estrategia por transparentar el contenido creado por inteligencia artificial. El gigante tecnol\u00f3gico anunci\u00f3 SynthID<\/strong>, una herramienta que a\u00f1ade una marca de agua digital a las im\u00e1genes generadas por IA<\/strong>, lo que las permitir\u00e1 identificar con facilidad.<\/p>\n

De acuerdo con una publicaci\u00f3n en el blog de DeepMind<\/a>, SynthID agrega un identificador directamente en los p\u00edxeles<\/strong> de una imagen, por lo que es imperceptible para el ojo humano. La marca de agua no compromete la calidad de imagen y soporta ediciones posteriores<\/strong> sin perder su efectividad. Eso significa que si a\u00f1ades filtros, recortas o conviertes a otro formato, la marca se mantendr\u00e1 incrustada en el archivo.<\/p>\n

La idea de una marca de agua en im\u00e1genes creadas por inteligencia artificial se ha vuelto necesaria en los \u00faltimos meses. Modelos como Midjourney o Stable Diffusion avanzan a pasos agigantados, generando contenido realista que enga\u00f1a al usuario com\u00fan. Para muestra bastan las fotos del arresto de Donald Trump<\/a> o del Papa Francisco portando un abrigo acolchado<\/a>, que se volvieron virales y obligaron a Midjourney a cancelar sus pruebas gratuitas.<\/p>\n

SynthID no solo permite a\u00f1adir un watermark<\/em>, sino tambi\u00e9n escanear una imagen para saber si es producto de la IA generativa<\/strong>. La herramienta utiliza dos modelos de aprendizaje profundo: uno para marcas de agua y otro para identificaci\u00f3n, los cuales se entrenaron a la par con un conjunto diverso de im\u00e1genes. Seg\u00fan los ingenieros de DeepMind, el modelo alinea visualmente el identificador con el contenido original<\/strong> para conocer si est\u00e1 presente.<\/p>\n

La herramienta de Google no es infalible, aunque sus primeros resultados son prometedores<\/h2>\n

Al presentar sus resultados, SynthID usa tres niveles de confianza para informar al usuario. Vale la pena mencionar que la herramienta no es infalible ante una manipulaci\u00f3n extrema de la imagen<\/strong>. No obstante, Google seguir\u00e1 perfeccion\u00e1ndola y podr\u00eda aplicarla en otros tipo de contenidos, como audio, video o texto.<\/p>\n

SynthID estar\u00e1 disponible para un n\u00famero limitado de personas que usan Imagen<\/strong>, un modelo de Vertex AI capaz de crear im\u00e1genes fotorrealistas<\/a> a partir de una entrada de texto. La marca de agua digital es compatible con m\u00e9todos de identificaci\u00f3n de im\u00e1genes<\/strong> basados en metadatos, como Photoshop<\/a>.<\/p>\n

\u00abLas marcas de agua tradicionales no son suficientes para identificar im\u00e1genes generadas por IA porque a menudo se aplican como un sello en una imagen y se pueden editar f\u00e1cilmente. Dise\u00f1amos SynthID para que no comprometa la calidad de la imagen y permita que la marca de agua siga siendo detectable, incluso despu\u00e9s de modificaciones.\u00bb<\/p>\n

Google confirm\u00f3 que tiene intenciones de ampliarlo a modelos de IA generativa de terceros<\/strong> en un futuro cercano. La tecnol\u00f3gica tambi\u00e9n se comprometi\u00f3 a mantener el desarrollo de SynthID para incluir nuevas mejoras en pr\u00f3ximas versiones. La fase de prueba servir\u00e1 para recopilar la retroalimentaci\u00f3n de los usuarios y pulir los modelos a futuro.<\/p>\n

La identificaci\u00f3n de contenido generado por inteligencia artificial es uno de los temas cruciales en las discusiones sobre una regulaci\u00f3n de esta tecnolog\u00eda<\/a>. Tanto pol\u00edticos como organizaciones pugnan por sistemas que permitan detectar im\u00e1genes o textos sint\u00e9ticos<\/strong> que podr\u00edan usarse en campa\u00f1as de desinformaci\u00f3n. Algunos gobiernos ya se valen de esta estrategia para modificar la percepci\u00f3n de sus habitantes con deepfakes<\/a>, mientras que otros estudian implementar la IA en campa\u00f1as para desestabilizar a sus oponentes<\/a>.<\/p>\n

Luis Miranda<\/a><\/span><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Google ha dado un paso en su estrategia por transparentar el contenido creado por inteligencia artificial. El gigante tecnol\u00f3gico anunci\u00f3 SynthID, una herramienta que a\u00f1ade una marca de agua digital a las im\u00e1genes generadas por IA, lo que las permitir\u00e1 identificar con facilidad. De acuerdo con una publicaci\u00f3n en elSeguir leyendo<\/a><\/span><\/p>\n","protected":false},"author":1,"featured_media":12727,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false,"_links_to":"","_links_to_target":""},"categories":[1],"tags":[4,3],"class_list":["entry","author-admin","post-12726","post","type-post","status-publish","format-standard","has-post-thumbnail","category-internet","tag-fuprisa","tag-jose-manuel-fuentes-prieto"],"nelio_content":{"autoShareEndMode":"never","automationSources":{"useCustomSentences":false,"customSentences":[]},"efiAlt":"","efiUrl":"","followers":[1],"highlights":[],"isAutoShareEnabled":true,"networkImageIds":[],"permalinkQueryArgs":[],"series":[],"suggestedReferences":[]},"jetpack_featured_media_url":"https:\/\/bitacoraenlared.com\/internet\/wp-content\/uploads\/sites\/2\/2023\/09\/persona-desarrollando-ejercicios-para-potenciar-las-habilidades-cognitivas.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/12726","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/comments?post=12726"}],"version-history":[{"count":1,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/12726\/revisions"}],"predecessor-version":[{"id":12728,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/12726\/revisions\/12728"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media\/12727"}],"wp:attachment":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media?parent=12726"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/categories?post=12726"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/tags?post=12726"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}