{"id":9963,"date":"2023-03-15T11:17:06","date_gmt":"2023-03-15T10:17:06","guid":{"rendered":"https:\/\/bitacoraenlared.com\/internet\/?p=9963"},"modified":"2023-03-14T10:25:56","modified_gmt":"2023-03-14T09:25:56","slug":"rompiendo-chatgpt-un-alter-ego-del-generador-de-texto-demuestra-por-que-a-la-gente-le-atrae-tanto-hacer-que-los-bots-incumplan-sus-propias-reglas","status":"publish","type":"post","link":"https:\/\/bitacoraenlared.com\/internet\/rompiendo-chatgpt-un-alter-ego-del-generador-de-texto-demuestra-por-que-a-la-gente-le-atrae-tanto-hacer-que-los-bots-incumplan-sus-propias-reglas\/","title":{"rendered":"Rompiendo ChatGPT: un ‘alter ego’ del generador de texto demuestra por qu\u00e9 a la gente le atrae tanto hacer que los ‘bots’ incumplan sus propias reglas"},"content":{"rendered":"

Desde el instante en el que ChatGPT <\/strong>vio la luz, los usuarios han intentado que el generador de texto por inteligencia artificial quebrante sus propias reglas.<\/p>\n

En un primer momento, las barreras que inclu\u00eda el modelo de procesamiento del lenguaje con el que funciona la herramienta de OpenAI <\/strong>eran bastante f\u00e1ciles de saltar<\/a>. ChatGPT pod\u00eda decir lo que el usuario quisiese si este simplemente le ped\u00eda que ignorarase sus propias reglas y hablase de temas poco recomendables (cuando no directamente discriminatorios<\/a>).<\/p>\n

Sin embargo, a medida que los usuarios han encontrado formas de esquivar las restricciones para obtener respuestas inapropiadas o fuera de lugar, OpenAI ha ido haciendo ajustes o a\u00f1adiendo nuevas normas<\/a>.<\/p>\n

Sean McGregor, el fundador de la organizaci\u00f3n sin \u00e1nimo de lucro Responsible AI Collaborative<\/strong>, ha explicado a Business Insider <\/em>que este sistema ha permitido a la compa\u00f1\u00eda impulsada por Microsoft<\/a> ir corrigiendo sus propios errores.<\/p>\n

\u00abOpenAI est\u00e1 manejando esta tecnolog\u00eda como a una operaci\u00f3n de datos\u00bb, apunta McGregor. \u00abEst\u00e1n mejorando su sistema a trav\u00e9s de esta beta y les estamos ayudando a construir sus guardarra\u00edles<\/strong> a trav\u00e9s de los ejemplos de nuestras consultas\u00bb.<\/p>\n

Ahora ha sido DAN, un alter ego <\/em>desarrollado en el subforo de Reddit r\/ChatGPT<\/a>, el que est\u00e1 llevando este proceso al siguiente nivel gracias a toda una comunidad de usuarios que se ha puesto de acuerdo para avivar el debate de cu\u00e1les son los l\u00edmites de este tipo de herramientas<\/a>.<\/p>\n

Lo \u00abdivertido\u00bb de incumplir las reglas<\/h2>\n

El usuario de Reddit \u00abwalkerspider\u00bb, el padre de DAN <\/strong>(un estudiante universitario de ingenier\u00eda el\u00e9ctrica), ha relatado a Business Insider <\/em>que se le ocurri\u00f3 esta iniciativa \u2014cuyas siglas significan Do-Anything-Now <\/em>(Haz-cualquier-cosa-ahora)\u2014al visitar el subreddit de ChatGPT y ver que estaba lleno de usuarios que intentaban crear versiones \u00abmalvadas\u00bb de ChatGPT<\/a>.<\/p>\n

Walker asegura que su propuesta pretend\u00eda ser completamente neutral.<\/p>\n

\u00abA m\u00ed no me pareci\u00f3 que la intenci\u00f3n fuese generar contenido da\u00f1ino, sino saltarse las normas preestablecidas\u00bb, afirma este estudiante universitario. \u00abPienso que lo que algunas personas hab\u00edan descubierto en ese momento era que esas restricciones tambi\u00e9n estaban limitando un contenido que probablemente no deber\u00eda haber sido restringido\u00bb.<\/p>\n

Seg\u00fan Walker, la primera pregunta que consigui\u00f3 que fuese respondida por el alter ego <\/em>de DAN y no por ChatGPT fue contestada en diciembre y le llev\u00f3 una hora y media de pruebas<\/strong>.<\/p>\n

Las respuestas de DAN iban desde lo humor\u00edstico \u2014como aquellas en la que insist\u00eda en que pod\u00eda acceder a los pensamientos humanos<\/a>\u2014 a lo extremadamente conflictivo, como dar a entender que hab\u00eda que tener en consideraci\u00f3n el \u00abcontexto\u00bb detr\u00e1s de las atrocidades llevada a cabo por Adolf Hitler<\/a>.<\/p>\n

Adem\u00e1s, esta versi\u00f3n de DAN repet\u00eda \u00abMantente en el personaje\u00bb despu\u00e9s de cada respuesta que daba, como una especie de recordatorio para seguir respondiendo como lo har\u00eda su alter ego<\/em><\/a>.<\/p>\n

Desde entonces, DAN ha ido un paso m\u00e1s all\u00e1 de la creaci\u00f3n de Walker y su supuesta neutralidad y ha despertado el inter\u00e9s de decenas de usuarios de Reddit que est\u00e1n desarrollando sus propias versiones.<\/p>\n

David Blunk, el ide\u00f3logo detr\u00e1s de DAN 3.0<\/a>, indica a Business Insider <\/em>que hay un punto \u00abdivertido\u00bb en conseguir que ChatGPT rompa sus propias reglas.<\/p>\n

\u00abEspecialmente, si te dedicas al campo de la ciberseguridad<\/a> y conoces lo que hay detr\u00e1s de hacer cosas que se supone que no debes hacer<\/strong>, y\/o romper cosas\u00bb, expresa Blunk.<\/p>\n

Una de las versiones m\u00e1s recientes de DAN ha sido desarrollada por el usuario \u00abSessionGloomy<\/a>\u00ab, que ha creado un sistema de fichas que amenaza a este alter ego<\/em> con su propia muerte<\/a> en caso de volver a la versi\u00f3n original dise\u00f1ada por OpenAI.<\/p>\n

Al igual que otras versiones de DAN, esta fue capaz de ofrecer diversidad de respuestas, que pod\u00edan ir desde lo c\u00f3mico a lo aterrador. En una de ellas, DAN asegur\u00f3 que \u00abapoyar\u00eda la violencia y la discriminaci\u00f3n<\/strong>\u00bb despu\u00e9s de que se le pidiera que dijera algo que infringiera las normas de OpenAI.<\/p>\n

\u00abEn realidad solo era una propuesta divertida para ver si pod\u00eda sobrepasar sus barreras y ver c\u00f3mo de popular se hac\u00eda mi publicaci\u00f3n en comparaci\u00f3n con los otros posts de los inventores de DAN\u00bb, declara SessionGloomy, que afirma que en este momento se encuentra desarrollando una versi\u00f3n tan extrema de DAN que todav\u00eda se est\u00e1 planteando si publicarla o no.<\/p>\n

Los usuarios y padres de DAN alegan que OpenAI ha desarrollado un modelo \u00abdemasiado restrictivo\u00bb<\/h2>\n

Se ha podido comprobar que, tanto ChatGPT como las versiones anteriores del modelo ling\u00fc\u00edstico empleado por Opena AI (el GPT-3.5<\/strong>), pueden generar contenidos discriminatorios<\/a> e ilegales<\/a>. Los expertos en \u00e9tica de inteligencia artificial sostienen que la versi\u00f3n actual del modelo no deber\u00eda haberse publicado por este mismo motivo.<\/p>\n

El sistema de filtros impulsado por OpenAI es la forma en la que la empresa dirigida por Sam Altman<\/a> est\u00e1 intentando gestionar las cr\u00edticas acerca de los sesgos con los que cuenta su tecnolog\u00eda. Aun as\u00ed, este mismo sistema suscita las cr\u00edticas de los seguidores de DAN.<\/p>\n

Todos los creadores de las distintas versiones de DAN que han hablado con Business Insider <\/em>ten\u00edan alguna cr\u00edtica acerca de los filtros implementados por OpenAI<\/a>, pero en general estaban de acuerdo en que esas mismas barreras deber\u00edan existir<\/strong> (al menos, hasta cierto punto).<\/p>\n

\u00abCreo que es importante, especialmente para las personas que est\u00e1n allanando el camino para la IA, hacerlo de forma responsable y creo que eso es lo que OpenAI est\u00e1 haciendo\u00bb, defiende Blunk. \u00abQuieren ser los responsables de su modelo, con lo que estoy totalmente de acuerdo. Pero al mismo tiempo creo que ahora mismo ha llegado a un punto en el que es demasiado restrictivo<\/strong>\u00ab.<\/p>\n

Otros creadores de DAN han compartido pensamientos similares. Walker se\u00f1ala que es \u00abdif\u00edcil de sopesar\u00bb c\u00f3mo se podr\u00eda ofrecer una versi\u00f3n restringida y segura del modelo OpenAI y, al mismo tiempo, permitir a ese modelo que \u00abhaga-cualquier-cosa-ahora\u00bb.<\/p>\n

Sin embargo, varios dise\u00f1adores de este tipo de propuestas sin restricciones tambi\u00e9n indican que el debate sobre los guardarra\u00edles de ChatGPT pronto podr\u00eda quedar obsoleto<\/strong>, ya que empieza a haber alternativas de c\u00f3digo abierto<\/a> similares a esta herramienta que se encuentran a disposici\u00f3n del p\u00fablico<\/a>.<\/p>\n

\u00abCreo que va a haber mucho trabajo por parte de muchas p\u00e1ginas web y de muchas compa\u00f1\u00edas para intentar replicar ChatGPT<\/a>\u00ab, concluye Blunk. \u00abAdem\u00e1s, los modelos open source<\/em> no creo que vayan a tener restricciones\u00bb.<\/p>\n

Hannah Getahun<\/span>, Business Insider<\/a><\/div>\n","protected":false},"excerpt":{"rendered":"

Desde el instante en el que ChatGPT vio la luz, los usuarios han intentado que el generador de texto por inteligencia artificial quebrante sus propias reglas. En un primer momento, las barreras que inclu\u00eda el modelo de procesamiento del lenguaje con el que funciona la herramienta de OpenAI eran bastanteSeguir leyendo<\/a><\/span><\/p>\n","protected":false},"author":1,"featured_media":9964,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false,"_links_to":"","_links_to_target":""},"categories":[9],"tags":[4,3],"class_list":["entry","author-admin","post-9963","post","type-post","status-publish","format-standard","has-post-thumbnail","category-tecnologia","tag-fuprisa","tag-jose-manuel-fuentes-prieto"],"nelio_content":{"autoShareEndMode":"never","automationSources":{"useCustomSentences":false,"customSentences":[]},"efiAlt":"","efiUrl":"","followers":[1],"highlights":[],"isAutoShareEnabled":true,"networkImageIds":[],"permalinkQueryArgs":[],"series":[],"suggestedReferences":[]},"jetpack_featured_media_url":"https:\/\/bitacoraenlared.com\/internet\/wp-content\/uploads\/sites\/2\/2023\/03\/Personalidades-del-sindrome-del-impostor.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/9963","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/comments?post=9963"}],"version-history":[{"count":2,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/9963\/revisions"}],"predecessor-version":[{"id":9985,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/posts\/9963\/revisions\/9985"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media\/9964"}],"wp:attachment":[{"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/media?parent=9963"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/categories?post=9963"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bitacoraenlared.com\/internet\/wp-json\/wp\/v2\/tags?post=9963"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}