{"id":62646,"date":"2023-05-22T17:23:14","date_gmt":"2023-05-22T21:23:14","guid":{"rendered":"https:\/\/elsurti.com\/?post_type=chequeo&#038;p=62646"},"modified":"2023-05-22T18:11:38","modified_gmt":"2023-05-22T22:11:38","slug":"guia-para-identificar-imagenes-y-videos-generados-con-inteligencia-artificial","status":"publish","type":"chequeo","link":"https:\/\/elsurti.com\/pt\/chequeo\/2023\/05\/22\/guia-para-identificar-imagenes-y-videos-generados-con-inteligencia-artificial\/","title":{"rendered":"Gu\u00eda para identificar im\u00e1genes y videos generados con Inteligencia Artificial"},"content":{"rendered":"<h4 class=\"wp-block-heading\"><strong>Si ten\u00e9s dos minutos, esto es lo que ten\u00e9s que saber:<\/strong><br><br><\/h4>\n\n\n\n<ul><li>Para identificar im\u00e1genes generadas por Inteligencia Artificial (IA), es importante realizar una b\u00fasqueda inversa para reconocer la fuente de la imagen y si fue publicada anteriormente. Tambi\u00e9n se recomienda mirar las manos, ojos, orejas, sombras, rostros desenfocados y detalles de contexto para encontrar imperfecciones y errores anat\u00f3micos.<br><br><\/li><li>Con<em> deepfakes<\/em>, que son videos generados con inteligencia artificial, es esencial hacer foco en los movimientos del cuerpo de las personas e identificar si el sonido de la voz est\u00e1 en sincron\u00eda con los movimientos de la boca, un error com\u00fan de estas tecnolog\u00edas. Adem\u00e1s de tener los mismos cuidados que con las im\u00e1genes generadas por IA.<br><br><\/li><li>El debate sobre c\u00f3mo detectar im\u00e1genes realizadas con IA se intensific\u00f3 en abril de 2023, cuando se viralizaron im\u00e1genes del <a href=\"https:\/\/www.instagram.com\/p\/CqLtzmwOueV\/\">Papa Francisco con un abrigo blanco<\/a> y una serie de fotograf\u00edas de <a rel=\"noreferrer noopener\" href=\"https:\/\/twitter.com\/EliotHiggins\/status\/1637927681734987777\" target=\"_blank\">Donald Trump arrestado<\/a>.<br><br><\/li><li>Pablo M. Fern\u00e1ndez, director ejecutivo y period\u00edstico de Chequeado, medio argentino especializado en factchecking y desinformaci\u00f3n, advierte que los errores que hasta ahora posibilitan verificar la veracidad de las im\u00e1genes y videos generados o manipulados con IA, pronto ser\u00e1n solucionados. En el futuro se volver\u00e1 m\u00e1s dif\u00edcil identificarlos.<br><br><\/li><\/ul>\n\n\n\n<h4 class=\"wp-block-heading\"><strong>Si ten\u00e9s m\u00e1s tiempo, te invitamos a leer todo el art\u00edculo:<\/strong><br><\/h4>\n\n\n\n<p>El 16 de mayo de 2023, Stilber Valdez, excandidato a la vicepresidencia por Cruzada Nacional, dijo que un video en el que Paraguayo Cubas insta a ind\u00edgenas a retirarse de la movilizaci\u00f3n frente al Tribunal Superior de Justicia Electoral (TSJE) <a rel=\"noreferrer noopener\" href=\"https:\/\/nanduti.com.py\/el-video-de-payo-fue-hecho-con-inteligencia-artificial-su-dupla-duda-y-habla-de-ia-o-amenazas\/\" target=\"_blank\">fue hecho con inteligencia artificial<\/a>. El comandante de la Polic\u00eda Nacional, Gilberto Fleitas, desminti\u00f3 esto y afirm\u00f3 que el <a rel=\"noreferrer noopener\" href=\"https:\/\/twitter.com\/AM_1080\/status\/1658788244555694080\" target=\"_blank\">video fue grabado bajo su autorizaci\u00f3n<\/a> en la Agrupaci\u00f3n Especializada, donde Cubas se encuentra recluido.<\/p>\n\n\n\n<p>Ya en marzo de este a\u00f1o, las im\u00e1genes del Papa Francisco con una chaqueta blanca o de Donald Trump siendo arrestado intensificaron la discusi\u00f3n p\u00fablica sobre c\u00f3mo distinguir cuando una imagen es generada por IA. Tambi\u00e9n los <em>deepfakes<\/em> de <a rel=\"noreferrer noopener\" href=\"https:\/\/canaltech.com.br\/internet\/deepfakes-mais-impressionantes-que-confundiram-a-internet-219962\/\" target=\"_blank\">Barak Obama, expresidente de Estados Unidos<\/a>, o del presidente ucraniano <a rel=\"noreferrer noopener\" href=\"https:\/\/maldita.es\/malditateexplica\/20220317\/deepfake-zelenski-ucrania-tropas-rindan\/\" target=\"_blank\">Volodymyr Zelensky<\/a>, irrumpieron internet y sacaron a luz c\u00f3mo este tipo de contenidos pueden <a rel=\"noreferrer noopener\" href=\"https:\/\/elsurti.com\/pt\/laprecisa\/chequeo\/2023\/04\/11\/cinco-tipos-de-desinformacion-en-las-elecciones-de-paraguay\/#:~:text=Contenido fabricado:\" target=\"_blank\">enga\u00f1ar y hacer da\u00f1o<\/a>.<\/p>\n\n\n\n<p>Seg\u00fan <a rel=\"noreferrer noopener\" href=\"https:\/\/azure.microsoft.com\/es-es\/resources\/cloud-computing-dictionary\/what-is-artificial-intelligence\/#how\" target=\"_blank\">Microsoft<\/a>, la IA es \u201cla capacidad de un sistema inform\u00e1tico de imitar funciones cognitivas humanas, como el aprendizaje y la soluci\u00f3n de problemas\u201d. Para <a rel=\"noreferrer noopener\" href=\"https:\/\/cloud.google.com\/learn\/what-is-artificial-intelligence?hl=es-419\" target=\"_blank\">Google<\/a>, la Inteligencia Artificial es un conjunto de tecnolog\u00edas que permiten que las computadoras realicen varias funciones avanzadas, \u201cincluida la capacidad de ver, comprender y traducir lenguaje hablado y escrito, analizar datos, hacer recomendaciones y mucho m\u00e1s\u201d.<\/p>\n\n\n\n<p>Pablo M. Fern\u00e1ndez, en entrevista para La Precisa, dijo que el uso de im\u00e1genes generadas por IA \u201ces algo que existe, que seguramente se va a volver m\u00e1s f\u00e1cil de usar para realizar algo positivo y tambi\u00e9n para algo negativo. Nosotros, los medios especializados en verificaci\u00f3n, tenemos que ir aprendiendo a la par\u201d.<\/p>\n\n\n\n<p>A continuaci\u00f3n presentamos una breve gu\u00eda para detectar im\u00e1genes y videos generados por IA:<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>C\u00f3mo identificar im\u00e1genes generadas con IA<\/strong><br><br><\/h3>\n\n\n\n<h4 class=\"wp-block-heading\"><strong>1. Verific\u00e1 las fuentes<\/strong><br><\/h4>\n\n\n\n<p>\u00bfLa imagen tiene cr\u00e9dito? \u00bfPodemos identificar a los responsables? Diferentes medios especializados en factchecking y desinformaci\u00f3n, como Chequeado, Mala Espina, Aos Fatos y Animal Pol\u00edtico, recomiendan <a rel=\"noreferrer noopener\" href=\"https:\/\/chequeado.com\/ultimas-noticias\/como-saber-si-una-imagen-fue-creada-con-inteligencia-artificial\/\" target=\"_blank\">buscar la fuente de la imagen<\/a>.\u00a0<\/p>\n\n\n\n<p>Una de las herramientas para identificar el origen del contenido es la <a rel=\"noreferrer noopener\" href=\"https:\/\/www.malaespinacheck.cl\/tecnologia-y-redes\/2023\/04\/02\/dia-del-fact-checking-tecnicas-para-identificar-imagenes-generadas-con-inteligencia-artificial\/\" target=\"_blank\">b\u00fasqueda inversa de imagen de Google<\/a>. Con esto se puede rastrear <a rel=\"noreferrer noopener\" href=\"https:\/\/www.animalpolitico.com\/verificacion-de-hechos\/te-explico\/inteligencia-artificial-evoluciona-desinformacion-herramientas\" target=\"_blank\">d\u00f3nde ha circulado el contenido<\/a>, el origen de su distribuci\u00f3n y qui\u00e9n gener\u00f3 la imagen con IA.<\/p>\n\n\n\n<p>La imagen del Papa Francisco con una chaqueta blanca fue publicada por el artista digital Pablo Xavier el 24 de marzo en una comunidad de <a href=\"https:\/\/www.reddit.com\/r\/midjourney\/comments\/120vhdc\/the_pope_drip\/\">Reddit<\/a> destinada a compartir <a href=\"https:\/\/www.aosfatos.org\/noticias\/falso-foto-papa-francisco-jaqueta-branca\/\" target=\"_blank\" rel=\"noreferrer noopener\">im\u00e1genes producidas con Midjourney<\/a>, una plataforma que funciona a trav\u00e9s de Discord.<\/p>\n\n\n\n<h4 class=\"wp-block-heading\"><strong>2. En los detalles puede estar el error&nbsp;<\/strong><br><\/h4>\n\n\n\n<p>Seg\u00fan Chequeado, una de las inconsistencias que a\u00fan tienen las IA al generar im\u00e1genes de ser humanos son las manos. \u00bfTienen 5 dedos? \u00bfLa posici\u00f3n es anat\u00f3micamente posible? Si ataja alg\u00fan objeto, \u00bfes la manera habitual de hacerlo? Si lo hici\u00e9ramos, \u00bfse caer\u00eda el objeto? Estas son algunas preguntas que podemos hacernos para detectar si la imagen es real o no.<br><\/p>\n\n\n\n<figure class=\"wp-block-gallery has-nested-images columns-default is-cropped wp-block-gallery-1 is-layout-flex wp-block-gallery-is-layout-flex\">\n<figure class=\"wp-block-image size-large\"><img fetchpriority=\"high\" decoding=\"async\" width=\"1024\" height=\"1024\" data-id=\"62662\" src=\"https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI4-1024x1024.png\" alt=\"\" class=\"wp-image-62662\" srcset=\"https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI4-1024x1024.png 1024w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI4-300x300.png 300w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI4-200x200.png 200w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI4-768x768.png 768w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI4-12x12.png 12w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI4-150x150.png 150w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI4.png 1080w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n<\/figure>\n\n\n\n<p>Otra parte del cuerpo humano que las IA a\u00fan no han perfeccionado son los ojos. Muchas veces los ojos salen borrosos, tienen una expresi\u00f3n no habitual o son amorfos. En caso que el protagonista de la imagen tenga anteojos, pueden haber inconsistencias en los reflejos del vidrio o en la sombra proyectada por los anteojos.<br><\/p>\n\n\n\n<p>El rostro y la textura de la piel de las personas tambi\u00e9n se pueden ver muy sint\u00e9ticas o artificiales. Las orejas, dientes y el cabello suelen tener errores de simetr\u00eda, morfolog\u00eda o tener un aspecto digital, m\u00e1s a\u00fan si son parte del contexto o no son el objeto principal en la composici\u00f3n.<\/p>\n\n\n\n<figure class=\"wp-block-gallery has-nested-images columns-default is-cropped wp-block-gallery-2 is-layout-flex wp-block-gallery-is-layout-flex\">\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" width=\"1024\" height=\"1024\" data-id=\"62663\" src=\"https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI5-1024x1024.png\" alt=\"\" class=\"wp-image-62663\" srcset=\"https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI5-1024x1024.png 1024w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI5-300x300.png 300w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI5-200x200.png 200w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI5-768x768.png 768w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI5-12x12.png 12w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI5-150x150.png 150w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI5.png 1080w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n<\/figure>\n\n\n\n<h4 class=\"wp-block-heading\"><br><br><strong>3. Busc\u00e1 inconsistencias de las im\u00e1genes<\/strong><br><\/h4>\n\n\n\n<p>Aunque pocas personas saben, la fotograf\u00eda del Papa Francisco es parte de una <a href=\"https:\/\/www.reddit.com\/r\/midjourney\/comments\/120vhdc\/the_pope_drip\/\" target=\"_blank\" rel=\"noreferrer noopener\">serie de im\u00e1genes<\/a> realizadas por el artista digital Pablo Xavier. Las im\u00e1genes de Donald Trump siendo apresado se encuentran en un <a href=\"https:\/\/twitter.com\/EliotHiggins\">hilo de Twitter<\/a> de Eliot Higgins, autor de las composiciones hechas con IA.<\/p>\n\n\n\n<p>Entre las im\u00e1genes del Papa se puede ver que los abrigos son diferentes, en sus dedos tiene distintos anillos o el crucifijo en su pecho es otro. Adem\u00e1s, el artista subi\u00f3 m\u00e1s de una composici\u00f3n hecha con IA del Papa como protagonista, como en la que se lo ve con un abrigo naranja o tomando cerveza.<br><\/p>\n\n\n\n<figure class=\"wp-block-gallery has-nested-images columns-default is-cropped wp-block-gallery-3 is-layout-flex wp-block-gallery-is-layout-flex\">\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" width=\"1024\" height=\"1024\" data-id=\"62664\" src=\"https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI7-1024x1024.png\" alt=\"\" class=\"wp-image-62664\" srcset=\"https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI7-1024x1024.png 1024w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI7-300x300.png 300w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI7-200x200.png 200w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI7-768x768.png 768w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI7-12x12.png 12w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI7-150x150.png 150w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI7.png 1080w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n<\/figure>\n\n\n\n<p>En el caso de las im\u00e1genes sobre Donald Trump, se publicaron como si fueran registros de una persecuci\u00f3n, resistencia y arresto del expresidente de Estados Unidos. Un art\u00edculo de Univisi\u00f3n expone como en la <a href=\"https:\/\/www.univision.com\/noticias\/detectar-imagenes-inteligencia-artificial-expertos\" target=\"_blank\" rel=\"noreferrer noopener\">serie de im\u00e1genes se puede ver que la corbata<\/a> y el traje de Trump son diferentes en las im\u00e1genes, adem\u00e1s de las otras inconsistencias ya analizadas.<br><\/p>\n\n\n\n<figure class=\"wp-block-gallery has-nested-images columns-default is-cropped wp-block-gallery-4 is-layout-flex wp-block-gallery-is-layout-flex\">\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"1024\" data-id=\"62668\" src=\"https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI8-1024x1024.png\" alt=\"\" class=\"wp-image-62668\" srcset=\"https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI8-1024x1024.png 1024w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI8-300x300.png 300w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI8-200x200.png 200w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI8-768x768.png 768w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI8-12x12.png 12w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI8-150x150.png 150w, https:\/\/elsurti.com\/wp-content\/uploads\/2023\/05\/40_Identificar-contenidos-AI8.png 1080w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n<\/figure>\n\n\n\n<h3 class=\"wp-block-heading\"><br><br><strong>C\u00f3mo identificar un <em>deepfake<\/em> o un video manipulado o generado con IA<\/strong><br><br><\/h3>\n\n\n\n<p>Un <a rel=\"noreferrer noopener\" href=\"https:\/\/www.aosfatos.org\/noticias\/inteligencia-artificial-desinformacao\/\" target=\"_blank\"><em>deepfake<\/em><\/a> tiene como objetivo sustituir rostros humanos en videos o audios a trav\u00e9s de inteligencia artificial. Para hacerlo, analiza un banco de im\u00e1genes y sonidos prove\u00eddos por un usuario para encontrar patrones en los gestos de un rostro y generar el video. A menudo, este tipo de contenidos tiene un tono humor\u00edstico en las redes sociales, aunque tambi\u00e9n se utiliza para realizar videos pornogr\u00e1ficos falsos.<\/p>\n\n\n\n<p>Adem\u00e1s de los cuidados que se deben tener para rastrear y reconocer im\u00e1genes generadas con IA, <a rel=\"noreferrer noopener\" href=\"https:\/\/chequeado.com\/el-explicador\/que-son-los-deepfakes-y-que-sabemos-sobre-los-presentadores-de-noticias-creados-con-inteligencia-artificial\/\" target=\"_blank\">para detectar <em>deepfakes<\/em><\/a> debemos fijarnos en otros detalles.<\/p>\n\n\n\n<p>El <a rel=\"noreferrer noopener\" href=\"https:\/\/www.media.mit.edu\/projects\/detect-fakes\/overview\/\" target=\"_blank\">MIT Media Lab<\/a>, laboratorio del Instituto de Tecnolog\u00eda de Massachusetts, propone un conjunto de preguntas clave para identificar <em>deepfakes:<\/em><\/p>\n\n\n\n<p><strong>Prestar atenci\u00f3n a los gestos, movimientos y detalles del rostro y preguntarse lo siguiente: <\/strong>\u00bfLos movimientos de la boca est\u00e1n sincronizados con el audio o se ven naturales? \u00bfLa persona parpadea lo suficiente o demasiado? \u00bfLa piel se ve demasiado suave o arrugada? \u00bfEs similar el envejecimiento de la piel y el cabello? \u00bfEl vello facial y el cabello parecen reales?&nbsp;<\/p>\n\n\n\n<p><strong>Fijate en las sombras y luces del video:<\/strong> \u00bfLas sombras coinciden con el \u00e1ngulo de la luz? \u00bfSi la persona tiene gafas, hay reflejos? \u00bfCambia el \u00e1ngulo del reflejo si la persona se mueve? \u00bfHay brillo en los ojos del protagonista del video?<\/p>","protected":false},"excerpt":{"rendered":"<p>Las IA siguen avanzando, pero a\u00fan tienen errores que nos permiten identificar los contenidos generados o manipulados con ellas. Aprend\u00e9 a detectarlos y hacer frente a la desinformaci\u00f3n.<\/p>","protected":false},"author":75,"featured_media":62650,"template":"","tags":[23],"fenomeno":[167],"tema":[63],"acf":[],"_links":{"self":[{"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/chequeo\/62646"}],"collection":[{"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/chequeo"}],"about":[{"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/types\/chequeo"}],"author":[{"embeddable":true,"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/users\/75"}],"version-history":[{"count":22,"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/chequeo\/62646\/revisions"}],"predecessor-version":[{"id":62674,"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/chequeo\/62646\/revisions\/62674"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/media\/62650"}],"wp:attachment":[{"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/media?parent=62646"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/tags?post=62646"},{"taxonomy":"fenomeno","embeddable":true,"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/fenomeno?post=62646"},{"taxonomy":"tema","embeddable":true,"href":"https:\/\/elsurti.com\/pt\/wp-json\/wp\/v2\/tema?post=62646"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}