Pero esta deslumbrante tecnolog\u00eda esconde un oscuro trasfondo<\/strong>.<\/p>\n A finales de diciembre, varios usuarios publicaron<\/a> en el popular foro clandestino de hacking BreachForums c\u00f3mo utilizaron ChatGPT, el chatbot de IA conversacional de OpenAI que puede generar desde historias hasta, en este caso, c\u00f3digo, para crear malware<\/strong>, que es como se conoce al software dise\u00f1ado para robar datos o da\u00f1ar ordenadores.<\/p>\n A principios de verano, deepfakes<\/em><\/a> generados por IA de famosas desnudas y pornograf\u00eda creados mediante la IA<\/a> generadora de im\u00e1genes de la startup Stability AI inundaron los hilos del controvertido foro de debate 4chan.<\/p>\n Cuando los reporteros de Futurism <\/em>proporcionaron<\/a> al generador de arte Dall-E Mini las consignas \u00abchica lista\u00bb y \u00abbuena persona\u00bb, la IA produjo una serie de rostros, todos ellos de piel clara.<\/p>\n A pesar de estas preocupaciones sobre actores que, a sabiendas o sin saberlo, utilizan la IA generativa con fines perjudiciales, las valoraciones y el bombo publicitario en torno a este \u00e1mbito parecen estar explotando sin fin a la vista, lo que deja a muchos pregunt\u00e1ndose: \u00bfqui\u00e9n es responsable de vigilar esta nueva tecnolog\u00eda?<\/strong><\/p>\n Algunas startups se han encargado de garantizar que sus productos no se utilicen para fines indebidos.<\/p>\n En 2020, Resemble AI<\/a>, una empresa que puede generar voces utilizando IA, lanz\u00f3 Resemblyzer, un paquete de c\u00f3digo abierto que puede verificar a los hablantes y detectar el habla falsa. El fundador y CEO de Resemble AI, Zohaib Ahmed, cuenta a Business Insider <\/em>que la herramienta ya se ha utilizado m\u00e1s de 2.000 veces<\/strong>.<\/p>\n \u00abCuando coges una revista, no acabas de creerte sus fotos\u00bb, explica Ahmed. \u00abEn cierto modo sabes qu\u00e9 ha sido retocado o manipulado. La gente deber\u00eda aprender a tratar el audio o las artes visuales como trata las fotos de las revistas\u00bb.<\/p>\n [wp-rss-aggregator]<\/p>\n Con Resemblyzer, un modelo de IA analiza un fragmento de audio y asigna a la voz una determinada firma formada por cientos de n\u00fameros basados en caracter\u00edsticas identificativas como el tono y la velocidad. A continuaci\u00f3n, el modelo compara otras muestras de audio con la firma para determinar si proceden del mismo locutor.<\/p>\n La propia Resemble AI utiliza Resemblyzer internamente para confirmar que los archivos de audio de muestra que los usuarios cargan para crear una voz generada por IA coinciden con la grabaci\u00f3n de consentimiento cargada y dan permiso para utilizar los archivos.<\/p>\n Para otros, como el cofundador y CEO de Synthesia, Victor Riparbelli, la educaci\u00f3n, no la protecci\u00f3n, es el primer paso<\/strong>.<\/p>\n Antes de las elecciones al Senado del pasado noviembre en EEUU, Synthesia, una empresa de v\u00eddeos generados por inteligencia artificial<\/a>, lanz\u00f3 Deepfaked<\/strong>, una base de datos p\u00fablica de deepfakes,<\/em> que es como se conoce a los v\u00eddeos falsos creados mediante software o inteligencia artificial. Su objetivo era proporcionar a los reguladores y al p\u00fablico un conocimiento compartido de la tecnolog\u00eda.<\/p>\n \u00abLo que tratamos de hacer aqu\u00ed no es ser prescriptivos en cuanto a lo que debemos o no debemos hacer, sino simplemente proporcionar un lugar para que la gente tenga un contexto sobre lo que son los deepfakes<\/em>\u00ab, comenta Riparbelli.<\/p>\n En parte, esta base de datos ha reducido el estigma y el miedo que rodean a los deepfakes<\/em>. A pesar de su mala reputaci\u00f3n la mayor\u00eda de los <\/strong>deepfakes <\/strong><\/em>se utilizan con fines de marketing o entretenimiento<\/strong>, y no con fines estrictamente maliciosos, explica Riparbelli a Business Insider<\/em>.<\/p>\n A\u00f1ade que, en contra de sus expectativas iniciales, el \u00edndice de deepfakes <\/em>no aument\u00f3 de forma notable durante las elecciones de mitad de mandato de 2022, y que los v\u00eddeos falsos que aparecieron fueron detectados y denunciados r\u00e1pidamente por la prensa.<\/p>\n Pero con el r\u00e1pido ritmo de innovaci\u00f3n de la IA, Riparbelli sigue creyendo que la IA generativa supone una amenaza para la sociedad, ya que tanto los ciudadanos an\u00f3nimos a trav\u00e9s de ataques como la pornograf\u00eda deepfake <\/em>no consentida, como las figuras p\u00fablicas est\u00e1n en peligro.<\/p>\n Tanto \u00e9l como Ahmed coinciden en que el sector necesita unos protocolos de seguridad<\/strong> y una regulaci\u00f3n m\u00e1s generalizadas.<\/p>\n En la actualidad, no existe en EEUU una legislaci\u00f3n federal exhaustiva sobre IA, aunque en 2022 poco a poco se fue dando la aparici\u00f3n de una regulaci\u00f3n espec\u00edfica para cada caso de uso en torno a cuestiones como la IA sesgada<\/a> en la contrataci\u00f3n.<\/p>\n Sin embargo, Ahmed explica a Business Insider<\/em> que los funcionarios del Gobierno de EEUU ya est\u00e1n colaborando con nuevas empresas de IA para formar asociaciones y financiar la investigaci\u00f3n en torno a estas cuestiones.<\/p>\n Los inversores de capital riesgo tambi\u00e9n han reconocido que tienen la responsabilidad de dar forma a la \u00e9tica de la IA generativa, ya que son los guardianes del capital de muchas nuevas empresas.<\/p>\n Una forma de contribuir es respaldar a empresas centradas en la seguridad<\/strong> como Anthropic, una startup de IA orientada a la investigaci\u00f3n y centrada en \u00abentrenar modelos sin consejos perjudiciales ni malos comportamientos\u00bb, comenta el director de Redpoint, Jordan Segall.<\/p>\n Otros inversores se centran en una s\u00f3lida gobernanza de las startups de IA, para lo que prefieren ocupar puestos en los consejos de administraci\u00f3n y asegurarse de que las empresas de su cartera dedican el tiempo y los recursos adecuados a la creaci\u00f3n de productos bien pensados, a\u00f1ade James Currier, socio general de NFX.<\/p>\n En \u00faltima instancia, tanto emprendedores como directivos coinciden en que se necesitar\u00eda una enorme cantidad de acci\u00f3n colectiva y coordinaci\u00f3n<\/strong> por parte de las startups, los inversores y los reguladores para protegerse contra el mal uso de la IA generativa.<\/p>\n \u00abVamos a tener tantas IA diferentes dando vueltas en los pr\u00f3ximos 20 a\u00f1os que va a hacer falta una verdadera red de acciones personales y gubernamentales para que la sociedad siga avanzando positivamente\u00bb, afirma Currier. \u00abCasi lo estropeamos del todo con las redes sociales. No queremos repetir ese error\u00bb.<\/p>\n Hoy en d\u00eda es dif\u00edcil navegar mucho rato por Twitter sin toparse con un hilo o un post sobre inteligencia artificial generativa. En internet, desde los grupos de Facebook hasta los foros de Forocoches o Reddit, los usuarios deliran con la capacidad de esta nueva tecnolog\u00eda de IA para crearSeguir leyendo<\/a><\/span><\/p>\n","protected":false},"author":1,"featured_media":9611,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":"","_links_to":"","_links_to_target":""},"categories":[9],"tags":[4,3],"class_list":["entry","author-admin","post-9607","post","type-post","status-publish","format-standard","has-post-thumbnail","category-tecnologia","tag-fuprisa","tag-jose-manuel-fuentes-prieto"],"nelio_content":{"autoShareEndMode":"never","automationSources":{"useCustomSentences":false,"customSentences":[]},"efiAlt":"","efiUrl":"","followers":[1],"highlights":[],"isAutoShareEnabled":true,"networkImageIds":[],"permalinkQueryArgs":[],"series":[],"suggestedReferences":[]},"jetpack_featured_media_url":"https:\/\/bitacoraenlared.com\/internet\/wp-content\/uploads\/sites\/2\/2023\/02\/oficinas-google.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/9607","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/comments?post=9607"}],"version-history":[{"count":1,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/9607\/revisions"}],"predecessor-version":[{"id":9612,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/9607\/revisions\/9612"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media\/9611"}],"wp:attachment":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media?parent=9607"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/categories?post=9607"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/tags?post=9607"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Startups que se vigilan a s\u00ed mismas<\/h2>\n
\n![](\"https:\/\/teletrabajoynegocios.com\/teletrabajador\/wp-content\/uploads\/sites\/3\/2020\/07\/articulos.png\")
<\/p>\n
\nLa responsabilidad de los inversores en IA<\/h2>\n