{"id":85136,"date":"2024-04-29T08:39:59","date_gmt":"2024-04-29T13:39:59","guid":{"rendered":"https:\/\/thecitizenfortheworld.com\/?p=85136"},"modified":"2024-04-29T08:40:51","modified_gmt":"2024-04-29T13:40:51","slug":"jovenes-en-riesgo-desnudos-falsos-creados-con-ia-son-el-nuevo-problema-que-deben-enfrentar","status":"publish","type":"post","link":"https:\/\/thecitizenfortheworld.com\/?p=85136","title":{"rendered":"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar"},"content":{"rendered":"

Los victimarios son los mismos compa\u00f1eros de escuela, acosando a menores entre los 12 y 15 a\u00f1os<\/p>\n

Redes sociales, inteligencia artificial, extorsi\u00f3n, contenido viral. Sumar todo esto est\u00e1 generando una problem\u00e1tica que es cada vez m\u00e1s frecuente entre los j\u00f3venes actualmente: las im\u00e1genes falsas de desnudos, que se usan para manipular y amenazar\u00a0la integridad de menores.<\/a><\/p>\n

\n
Seg\u00fan New York Times,\u00a0el uso de IA para crear contenido falso est\u00e1 generando una preocupaci\u00f3n cada vez mayor en las comunidades escolares de Estados Unidos.\u00a0<\/b>Un fen\u00f3meno inquietante es la creaci\u00f3n y difusi\u00f3n de im\u00e1genes alteradas, tambi\u00e9n\u00a0conocidas como deepfakes<\/a>, que pueden ser generadas por algoritmos de IA para modificar digitalmente la apariencia de personas en im\u00e1genes y videos.<\/div>\n<\/div>\n
<\/div>\n
Siendo una modalidad en la que las v\u00edctimas jam\u00e1s comparten contenido de este tipo,\u00a0pero en la que los ciberdelincuentes toman una imagen normal y logran alterarla para que tenga otro tono<\/b>, convirti\u00e9ndola en contenido expl\u00edcito, que parece real, y se vuelve una forma de amenaza y acoso.<\/div>\n
<\/div>\n
\n
\"TomandoTomando im\u00e1genes de redes sociales, j\u00f3venes logran alterar contenidos para amenazar a otros menores. (Imagen ilustrativa Infobae)<\/em><\/div>\n
\n

Casos reales de im\u00e1genes falsas<\/h2>\n<\/div>\n

Uno de los casos mencionados en la investigaci\u00f3n se dio en la ciudad de Westfield, Nueva Jersey, donde\u00a0estudiantes de secundaria utilizaron software de inteligencia artificial para generar im\u00e1genes sexualmente expl\u00edcitas de sus compa\u00f1eras de clase.<\/b><\/p>\n

Estas im\u00e1genes, fabricadas de manera falsa, fueron compartidas en redes sociales y chats grupales, lo que result\u00f3 en una situaci\u00f3n de acoso y humillaci\u00f3n para las v\u00edctimas.<\/p>\n

Otro caso proviene de Beverly Hills, California, donde\u00a0estudiantes de octavo grado crearon y compartieron im\u00e1genes expl\u00edcitas de compa\u00f1eras de clase de 12 y 13 a\u00f1os utilizando IA.\u00a0<\/b>Ante esta situaci\u00f3n, las autoridades escolares tomaron medidas firmes, incluyendo la expulsi\u00f3n de los estudiantes involucrados y la emisi\u00f3n de advertencias claras sobre las consecuencias del uso inapropiado de la IA.<\/p>\n

\u201cTodos los distritos escolares est\u00e1n lidiando con los desaf\u00edos y el impacto de la inteligencia artificial y otras tecnolog\u00edas que est\u00e1n disponibles para los estudiantes en cualquier momento y en cualquier lugar\u201d, dijo Raymond Gonz\u00e1lez, superintendente de las Escuelas P\u00fablicas de Westfield.<\/p>\n

\"TomandoTomando im\u00e1genes de redes sociales, j\u00f3venes logran alterar contenidos para amenazar a otros menores. (Imagen ilustrativa Infobae)<\/em><\/div>\n

Las im\u00e1genes alteradas son tomadas de redes sociales. Fotos en las que las v\u00edctimas est\u00e1n en situaciones normales, pero que mediante una aplicaci\u00f3n de inteligencia artificial es posible convertirlas en material expl\u00edcito.\u00a0Como sucedi\u00f3 en el caso de Westfield, en el que un joven empez\u00f3 a seguir a una menor de 15 a\u00f1os en Instagram y, despu\u00e9s de alterar las im\u00e1genes, comparti\u00f3 el contenido en un grupo de Snapchat.<\/b><\/p>\n

Estos incidentes son solo una parte de una problem\u00e1tica m\u00e1s amplia que est\u00e1 afectando a los j\u00f3venes en las redes sociales. La creaci\u00f3n de contenido falso mediante IA no se limita \u00fanicamente a im\u00e1genes falsas, sino que tambi\u00e9n\u00a0incluye la generaci\u00f3n de textos manipulados y la producci\u00f3n de noticias falsas, lo que puede tener graves consecuencias en la percepci\u00f3n de la realidad.<\/b><\/p>\n

Varios son loss riesgos que enfrentan los j\u00f3venes ante esta proliferaci\u00f3n de contenido manipulado. En primer lugar, la difusi\u00f3n de im\u00e1genes falsas puede causar da\u00f1os irreparables en la reputaci\u00f3n y el bienestar emocional de las v\u00edctimas, quienes pueden experimentar verg\u00fcenza, ansiedad y depresi\u00f3n como resultado del acoso y la humillaci\u00f3n p\u00fablica.<\/p>\n

\u201cSe oye mucho sobre la seguridad f\u00edsica en las escuelas. Pero de lo que no se oye hablar es de esta invasi\u00f3n a la seguridad emocional y personal de los estudiantes\u201d, asegur\u00f3 Michael Bregy, superintendente del Distrito Escolar Unificado de Beverly Hills.<\/p>\n

\"TomandoTomando im\u00e1genes de redes sociales, j\u00f3venes logran alterar contenidos para amenazar a otros menores. (Imagen ilustrativa Infobae)<\/em><\/div>\n

En los dos casos reportados por New York Times, las escuelas enviaron mensajes a sus estudiantes advirtiendo la gravedad de esta situaci\u00f3n, asegurando que \u201ccualquier estudiante que sea descubierto creando, difundiendo o en posesi\u00f3n de im\u00e1genes generadas por IA de esta naturaleza enfrentar\u00e1 acciones disciplinarias\u201d.<\/p>\n

Sin embargo, Francesca Mani, una de las v\u00edctimas del contenido alterado, cree que ya es momento de \u201cempezar a actualizar nuestra pol\u00edtica escolar, porque\u00a0si la escuela hubiera tenido pol\u00edticas con respecto a la IA, estudiantes como yo habr\u00edan estado protegidas\u201d<\/b>, dijo la menor de 15 a\u00f1os.<\/p>\n

(Con informaci\u00f3n de Infobae<\/em>)<\/p>\n

\n
<\/div>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Los victimarios son los mismos compa\u00f1eros de escuela, acosando a menores entre los 12 y 15 a\u00f1os Redes sociales, inteligencia artificial, extorsi\u00f3n, contenido viral. Sumar todo esto est\u00e1 generando una problem\u00e1tica que es cada vez m\u00e1s frecuente entre los j\u00f3venes actualmente: las im\u00e1genes falsas de desnudos, que se usan para manipular y amenazar\u00a0la integridad de […]<\/p>\n","protected":false},"author":1,"featured_media":85137,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_mi_skip_tracking":false},"categories":[7],"tags":[],"yoast_head":"\nJ\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar - The citizen for the world<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/thecitizenfortheworld.com\/?p=85136\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar - The citizen for the world\" \/>\n<meta property=\"og:description\" content=\"Los victimarios son los mismos compa\u00f1eros de escuela, acosando a menores entre los 12 y 15 a\u00f1os Redes sociales, inteligencia artificial, extorsi\u00f3n, contenido viral. Sumar todo esto est\u00e1 generando una problem\u00e1tica que es cada vez m\u00e1s frecuente entre los j\u00f3venes actualmente: las im\u00e1genes falsas de desnudos, que se usan para manipular y amenazar\u00a0la integridad de […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/thecitizenfortheworld.com\/?p=85136\" \/>\n<meta property=\"og:site_name\" content=\"The citizen for the world\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/thecitizenfortheworld\" \/>\n<meta property=\"article:published_time\" content=\"2024-04-29T13:39:59+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-04-29T13:40:51+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/thecitizenfortheworld.com\/wp-content\/uploads\/2024\/04\/jovens-IA.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"992\" \/>\n\t<meta property=\"og:image:height\" content=\"558\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"thecitizenfortheworld23@gmail.com\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"thecitizenfortheworld23@gmail.com\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tiempo estimado de lectura\" \/>\n\t<meta name=\"twitter:data2\" content=\"4 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/thecitizenfortheworld.com\/?p=85136#article\",\"isPartOf\":{\"@id\":\"https:\/\/thecitizenfortheworld.com\/?p=85136\"},\"author\":{\"name\":\"thecitizenfortheworld23@gmail.com\",\"@id\":\"https:\/\/thecitizenfortheworld.com\/#\/schema\/person\/1f6b82847278ca8d344c472822b5b66f\"},\"headline\":\"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar\",\"datePublished\":\"2024-04-29T13:39:59+00:00\",\"dateModified\":\"2024-04-29T13:40:51+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/thecitizenfortheworld.com\/?p=85136\"},\"wordCount\":801,\"commentCount\":0,\"publisher\":{\"@id\":\"https:\/\/thecitizenfortheworld.com\/#organization\"},\"articleSection\":[\"Tecnolog\u00eda\"],\"inLanguage\":\"es-CO\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\/\/thecitizenfortheworld.com\/?p=85136#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/thecitizenfortheworld.com\/?p=85136\",\"url\":\"https:\/\/thecitizenfortheworld.com\/?p=85136\",\"name\":\"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar - The citizen for the world\",\"isPartOf\":{\"@id\":\"https:\/\/thecitizenfortheworld.com\/#website\"},\"datePublished\":\"2024-04-29T13:39:59+00:00\",\"dateModified\":\"2024-04-29T13:40:51+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/thecitizenfortheworld.com\/?p=85136#breadcrumb\"},\"inLanguage\":\"es-CO\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/thecitizenfortheworld.com\/?p=85136\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/thecitizenfortheworld.com\/?p=85136#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Inicio\",\"item\":\"https:\/\/thecitizenfortheworld.com\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/thecitizenfortheworld.com\/#website\",\"url\":\"https:\/\/thecitizenfortheworld.com\/\",\"name\":\"The citizen for the world\",\"description\":\"\",\"publisher\":{\"@id\":\"https:\/\/thecitizenfortheworld.com\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/thecitizenfortheworld.com\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"es-CO\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/thecitizenfortheworld.com\/#organization\",\"name\":\"The citizen for the world\",\"url\":\"https:\/\/thecitizenfortheworld.com\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es-CO\",\"@id\":\"https:\/\/thecitizenfortheworld.com\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/thecitizenfortheworld.com\/wp-content\/uploads\/2023\/04\/cropped-the-citizens.png\",\"contentUrl\":\"https:\/\/thecitizenfortheworld.com\/wp-content\/uploads\/2023\/04\/cropped-the-citizens.png\",\"width\":1135,\"height\":1302,\"caption\":\"The citizen for the world\"},\"image\":{\"@id\":\"https:\/\/thecitizenfortheworld.com\/#\/schema\/logo\/image\/\"},\"sameAs\":[\"https:\/\/www.facebook.com\/thecitizenfortheworld\"]},{\"@type\":\"Person\",\"@id\":\"https:\/\/thecitizenfortheworld.com\/#\/schema\/person\/1f6b82847278ca8d344c472822b5b66f\",\"name\":\"thecitizenfortheworld23@gmail.com\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es-CO\",\"@id\":\"https:\/\/thecitizenfortheworld.com\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/fa0768c808e84d205962885f7091f34b?s=96&d=mm&r=pg\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/fa0768c808e84d205962885f7091f34b?s=96&d=mm&r=pg\",\"caption\":\"thecitizenfortheworld23@gmail.com\"},\"sameAs\":[\"http:\/\/thecitizenfortheworld.com\"],\"url\":\"https:\/\/thecitizenfortheworld.com\/?author=1\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar - The citizen for the world","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/thecitizenfortheworld.com\/?p=85136","og_locale":"es_ES","og_type":"article","og_title":"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar - The citizen for the world","og_description":"Los victimarios son los mismos compa\u00f1eros de escuela, acosando a menores entre los 12 y 15 a\u00f1os Redes sociales, inteligencia artificial, extorsi\u00f3n, contenido viral. Sumar todo esto est\u00e1 generando una problem\u00e1tica que es cada vez m\u00e1s frecuente entre los j\u00f3venes actualmente: las im\u00e1genes falsas de desnudos, que se usan para manipular y amenazar\u00a0la integridad de […]","og_url":"https:\/\/thecitizenfortheworld.com\/?p=85136","og_site_name":"The citizen for the world","article_publisher":"https:\/\/www.facebook.com\/thecitizenfortheworld","article_published_time":"2024-04-29T13:39:59+00:00","article_modified_time":"2024-04-29T13:40:51+00:00","og_image":[{"width":992,"height":558,"url":"https:\/\/thecitizenfortheworld.com\/wp-content\/uploads\/2024\/04\/jovens-IA.jpg","type":"image\/jpeg"}],"author":"thecitizenfortheworld23@gmail.com","twitter_card":"summary_large_image","twitter_misc":{"Escrito por":"thecitizenfortheworld23@gmail.com","Tiempo estimado de lectura":"4 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/thecitizenfortheworld.com\/?p=85136#article","isPartOf":{"@id":"https:\/\/thecitizenfortheworld.com\/?p=85136"},"author":{"name":"thecitizenfortheworld23@gmail.com","@id":"https:\/\/thecitizenfortheworld.com\/#\/schema\/person\/1f6b82847278ca8d344c472822b5b66f"},"headline":"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar","datePublished":"2024-04-29T13:39:59+00:00","dateModified":"2024-04-29T13:40:51+00:00","mainEntityOfPage":{"@id":"https:\/\/thecitizenfortheworld.com\/?p=85136"},"wordCount":801,"commentCount":0,"publisher":{"@id":"https:\/\/thecitizenfortheworld.com\/#organization"},"articleSection":["Tecnolog\u00eda"],"inLanguage":"es-CO","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/thecitizenfortheworld.com\/?p=85136#respond"]}]},{"@type":"WebPage","@id":"https:\/\/thecitizenfortheworld.com\/?p=85136","url":"https:\/\/thecitizenfortheworld.com\/?p=85136","name":"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar - The citizen for the world","isPartOf":{"@id":"https:\/\/thecitizenfortheworld.com\/#website"},"datePublished":"2024-04-29T13:39:59+00:00","dateModified":"2024-04-29T13:40:51+00:00","breadcrumb":{"@id":"https:\/\/thecitizenfortheworld.com\/?p=85136#breadcrumb"},"inLanguage":"es-CO","potentialAction":[{"@type":"ReadAction","target":["https:\/\/thecitizenfortheworld.com\/?p=85136"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/thecitizenfortheworld.com\/?p=85136#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Inicio","item":"https:\/\/thecitizenfortheworld.com\/"},{"@type":"ListItem","position":2,"name":"J\u00f3venes en riesgo: desnudos falsos creados con IA son el nuevo problema que deben enfrentar"}]},{"@type":"WebSite","@id":"https:\/\/thecitizenfortheworld.com\/#website","url":"https:\/\/thecitizenfortheworld.com\/","name":"The citizen for the world","description":"","publisher":{"@id":"https:\/\/thecitizenfortheworld.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/thecitizenfortheworld.com\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"es-CO"},{"@type":"Organization","@id":"https:\/\/thecitizenfortheworld.com\/#organization","name":"The citizen for the world","url":"https:\/\/thecitizenfortheworld.com\/","logo":{"@type":"ImageObject","inLanguage":"es-CO","@id":"https:\/\/thecitizenfortheworld.com\/#\/schema\/logo\/image\/","url":"https:\/\/thecitizenfortheworld.com\/wp-content\/uploads\/2023\/04\/cropped-the-citizens.png","contentUrl":"https:\/\/thecitizenfortheworld.com\/wp-content\/uploads\/2023\/04\/cropped-the-citizens.png","width":1135,"height":1302,"caption":"The citizen for the world"},"image":{"@id":"https:\/\/thecitizenfortheworld.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/thecitizenfortheworld"]},{"@type":"Person","@id":"https:\/\/thecitizenfortheworld.com\/#\/schema\/person\/1f6b82847278ca8d344c472822b5b66f","name":"thecitizenfortheworld23@gmail.com","image":{"@type":"ImageObject","inLanguage":"es-CO","@id":"https:\/\/thecitizenfortheworld.com\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/fa0768c808e84d205962885f7091f34b?s=96&d=mm&r=pg","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/fa0768c808e84d205962885f7091f34b?s=96&d=mm&r=pg","caption":"thecitizenfortheworld23@gmail.com"},"sameAs":["http:\/\/thecitizenfortheworld.com"],"url":"https:\/\/thecitizenfortheworld.com\/?author=1"}]}},"_links":{"self":[{"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=\/wp\/v2\/posts\/85136"}],"collection":[{"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=85136"}],"version-history":[{"count":2,"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=\/wp\/v2\/posts\/85136\/revisions"}],"predecessor-version":[{"id":85139,"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=\/wp\/v2\/posts\/85136\/revisions\/85139"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=\/wp\/v2\/media\/85137"}],"wp:attachment":[{"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=85136"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=85136"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/thecitizenfortheworld.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=85136"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}