{"id":2632,"date":"2023-01-13T07:46:19","date_gmt":"2023-01-13T07:46:19","guid":{"rendered":"https:\/\/www.all4sec.es\/blog\/?p=2632"},"modified":"2023-01-13T07:46:20","modified_gmt":"2023-01-13T07:46:20","slug":"el-nuevo-horizonte-de-las-deepfakes","status":"publish","type":"post","link":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/","title":{"rendered":"El nuevo horizonte de las Deepfakes"},"content":{"rendered":"\n

Las DeepFakes<\/em> han tomado el protagonismo de la actualidad <\/h3>\n\n\n\n

El uso de im\u00e1genes de video con declaraciones de dirigentes pol\u00edticos<\/a> o ataques a ciudades europeas<\/a> ha despertado la inquietud y el inter\u00e9s de la sociedad por una nueva forma de recurrir al video-enga\u00f1o como fuente de manipulaci\u00f3n de los ciudadanos.<\/p>\n\n\n\n

\"\"<\/figure><\/div>\n\n\n\n

Un reciente informe de Wintness.org y Cocreation Studio<\/a> ha recogido a trav\u00e9s de m\u00e1s de setenta ejemplos, como el uso de las DeepFakes<\/em> puede influir en la sociedad a trav\u00e9s de recursos de ingenier\u00eda social como la empat\u00eda, la creatividad, la s\u00e1tira, la culpa o la autoridad. Sus conclusiones son reveladoras y muestran el estado de indefinici\u00f3n en el que nos encontramos a la hora de evaluar el impacto que tienen las DeepFakes<\/em> en nuestro entorno.<\/p>\n\n\n\n

\u00bfPodr\u00edamos catalogar la intenci\u00f3n de una Deepfake<\/em>?<\/strong><\/h3>\n\n\n\n

Partamos de una premisa sencilla: si se puede utilizar la voz de una persona para hacer humor<\/a>, \u00bfpor qu\u00e9 no se podr\u00eda utilizar las Deepfakes<\/em> con la misma intenci\u00f3n? <\/p>\n\n\n\n

\"\"<\/figure><\/div>\n\n\n\n

Y si fuera para enga\u00f1ar, \u00bfqu\u00e9 responsabilidad \u00e9tica tendr\u00edan quienes elaboraran este tipo de material?, \u00bfd\u00f3nde quedar\u00eda el l\u00edmite legal de su uso? Por ejemplo, mientras que la habilidad de un imitador es una propiedad de la persona, los archivos de audio o imagen de un tercero pueden llegar a ser datos personales protegidos<\/strong>.<\/p>\n\n\n\n

Y as\u00ed podr\u00edamos seguir con multitud de nuevas dudas.<\/p>\n\n\n\n

No todas las respuestas a estas preguntas son evidentes, aunque en algunos casos lo parezcan. <\/p>\n\n\n\n

Los intentos de regulaci\u00f3n de las Deepfakes<\/em> pueden enfrentarse a aspectos como la legalidad o la legitimidad de uso<\/strong>. Es decir, las leyes deber\u00edan mantenerse dentro de unos l\u00edmites de la legalidad claros y sin ambig\u00fcedades, y circunscritas, por ejemplo, a intereses de seguridad nacional, protecci\u00f3n de personas o salud p\u00fablica. A ello, parece evidente que habr\u00eda que a\u00f1adir el concepto de proporcionalidad para evitar incurrir en limitaciones, por ejemplo, a la libertad de expresi\u00f3n.<\/p>\n\n\n\n

Dudas permanentes<\/strong><\/h3>\n\n\n\n

Bajo este contexto, las Deepfakes<\/em> puede llevarnos a un escenario de perpetua revisi\u00f3n de nuestras conclusiones; por ejemplo, pueden hacer crecer en la sociedad la desconfianza con respecto a lo que es informaci\u00f3n veraz<\/strong>. De hecho, los casos se multiplican en los \u00faltimos meses. Existen v\u00eddeos falsos que divulgan, por ejemplo, declaraciones de mandatarios en torno a temas de especial relevancia, del mismo modo que llegan a considerarse falsos video reales<\/a> simplemente porque la calidad de la grabaci\u00f3n era mala o por circunstancias particulares asociadas al protagonista.<\/p>\n\n\n\n

\"\"<\/figure><\/div>\n\n\n\n

La pregunta que surge pues en torno al desarrollo de las Deepfakes<\/em> es: \u00bfson buenas o malas? \u00bfDeber\u00edan los autores etiquetarlas para evitar malentendidos?<\/strong> \u00bfEn tal caso, perder\u00edan su impacto creativo, si esa fuera su intenci\u00f3n?<\/p>\n\n\n\n

Identificaci\u00f3n autom\u00e1tica<\/strong><\/h3>\n\n\n\n
\"\"<\/figure><\/div>\n\n\n\n

Recurrir a la automatizaci\u00f3n en la identificaci\u00f3n de una Deepfake<\/em> es una posible aproximaci\u00f3n. Actualmente, somos capaces de diferenciar im\u00e1genes que han sido procesadas con herramientas como Photoshop<\/em> o que han sido expuestas a alg\u00fan tipo de filtro. Igualmente, somos capaces de detectar el uso de aplicaciones como Auto-Tune<\/em> cuando se trata de identificar matices en las voces de las personas. <\/p>\n\n\n\n

Sin embargo, \u00bfhay herramientas para crear Deepfakes<\/em>? \u00bfY para identificarlas?<\/strong><\/p>\n\n\n\n

La respuesta a estas preguntas es que s\u00ed, que existen algunas, tanto de dominio p\u00fablico como de pago. A d\u00eda de hoy hay herramientas, como las proporcionadas por DeepFaceLab<\/a>, que permiten a usuarios con conocimientos avanzados construir videos con alto grado de calidad. De igual modo, existen aplicaciones, como Sensity AI<\/a> o Deepware AI<\/a>, que ofrecen soluciones para identificar si un video resulta ser una DeepFake<\/em> o sencillamente recoge una situaci\u00f3n real. Sea cual sea el caso, la posibilidad de tratamiento de im\u00e1genes con t\u00e9cnicas de Inteligencia Artificial hace de la generaci\u00f3n e identificaci\u00f3n de Deepfakes<\/em> dos tareas complejas.<\/p>\n\n\n\n

Un largo camino por recorrer<\/strong><\/h3>\n\n\n\n
\"\"<\/figure><\/div>\n\n\n\n

Llegados a este punto, podr\u00edamos hacernos una \u00faltima pregunta: \u00bfcu\u00e1l puede ser el horizonte futuro de las DeepFakes<\/em>?<\/p>\n\n\n\n

El uso de Deepfakes<\/em> puede ser \u00fatil en el cine, en el humor, en la ense\u00f1anza<\/a>, en la protesta<\/a>, en la salud<\/a>\u2026 Se trata de aplicaciones que pueden contribuir a un nuevo modelo de sociedad basada en activos (y valores) ciertamente virtuales<\/strong>. Sin embargo, tambi\u00e9n puede ser \u00fatil en la guerra o en el delito cotidiano<\/a>; en la explotaci\u00f3n de personas o en su manipulaci\u00f3n malintencionada. Por eso resulta dif\u00edcil dar una respuesta. Por el momento, preferimos no manifestarnos. Si alguien se atreve\u2026<\/p>\n","protected":false},"excerpt":{"rendered":"

El uso de videos con el rostro de personas ha despertado la inquietud y el inter\u00e9s de la sociedad por una nueva forma de recurrir al video-enga\u00f1o como fuente de manipulaci\u00f3n de los ciudadanos. Sin embargo, tambi\u00e9n puede abrir el horizonte a otro tipo de posibilidades.<\/p>\n","protected":false},"author":3,"featured_media":2636,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[2,8,19],"tags":[79],"yoast_head":"\nEl nuevo horizonte de las Deepfakes - all4sec.es<\/title>\n<meta name=\"description\" content=\"El nuevo horizonte de las Deepfakes. El video, una nueva forma de recurrir al enga\u00f1o utilizando la imagen de las personas.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"El nuevo horizonte de las Deepfakes - all4sec.es\" \/>\n<meta property=\"og:description\" content=\"El nuevo horizonte de las Deepfakes. El video, una nueva forma de recurrir al enga\u00f1o utilizando la imagen de las personas.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/\" \/>\n<meta property=\"og:site_name\" content=\"all4sec.es\" \/>\n<meta property=\"article:published_time\" content=\"2023-01-13T07:46:19+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2023-01-13T07:46:20+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/all4sec.es\/blog\/wp-content\/uploads\/2023\/01\/HDF-9-wahid-khene-iKdQCIiSMlQ-unsplash.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1920\" \/>\n\t<meta property=\"og:image:height\" content=\"1114\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Juanjo Galan\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Juanjo Galan\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tiempo de lectura\" \/>\n\t<meta name=\"twitter:data2\" content=\"5 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/\",\"url\":\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/\",\"name\":\"El nuevo horizonte de las Deepfakes - all4sec.es\",\"isPartOf\":{\"@id\":\"https:\/\/all4sec.es\/blog\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/all4sec.es\/blog\/wp-content\/uploads\/2023\/01\/HDF-9-wahid-khene-iKdQCIiSMlQ-unsplash.jpg\",\"datePublished\":\"2023-01-13T07:46:19+00:00\",\"dateModified\":\"2023-01-13T07:46:20+00:00\",\"author\":{\"@id\":\"https:\/\/all4sec.es\/blog\/#\/schema\/person\/d8839fb727b62b7c4e8598b89fdaafa9\"},\"description\":\"El nuevo horizonte de las Deepfakes. El video, una nueva forma de recurrir al enga\u00f1o utilizando la imagen de las personas.\",\"breadcrumb\":{\"@id\":\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#breadcrumb\"},\"inLanguage\":\"es\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#primaryimage\",\"url\":\"https:\/\/all4sec.es\/blog\/wp-content\/uploads\/2023\/01\/HDF-9-wahid-khene-iKdQCIiSMlQ-unsplash.jpg\",\"contentUrl\":\"https:\/\/all4sec.es\/blog\/wp-content\/uploads\/2023\/01\/HDF-9-wahid-khene-iKdQCIiSMlQ-unsplash.jpg\",\"width\":1920,\"height\":1114},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Portada\",\"item\":\"https:\/\/all4sec.es\/blog\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"El nuevo horizonte de las Deepfakes\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/all4sec.es\/blog\/#website\",\"url\":\"https:\/\/all4sec.es\/blog\/\",\"name\":\"all4sec.es\",\"description\":\"\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/all4sec.es\/blog\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"es\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/all4sec.es\/blog\/#\/schema\/person\/d8839fb727b62b7c4e8598b89fdaafa9\",\"name\":\"Juanjo Galan\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/all4sec.es\/blog\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/a3f0814447c3b2bad83feb430187bee0?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/a3f0814447c3b2bad83feb430187bee0?s=96&d=mm&r=g\",\"caption\":\"Juanjo Galan\"},\"url\":\"https:\/\/all4sec.es\/blog\/index.php\/author\/juanjo\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"El nuevo horizonte de las Deepfakes - all4sec.es","description":"El nuevo horizonte de las Deepfakes. El video, una nueva forma de recurrir al enga\u00f1o utilizando la imagen de las personas.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/","og_locale":"es_ES","og_type":"article","og_title":"El nuevo horizonte de las Deepfakes - all4sec.es","og_description":"El nuevo horizonte de las Deepfakes. El video, una nueva forma de recurrir al enga\u00f1o utilizando la imagen de las personas.","og_url":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/","og_site_name":"all4sec.es","article_published_time":"2023-01-13T07:46:19+00:00","article_modified_time":"2023-01-13T07:46:20+00:00","og_image":[{"width":1920,"height":1114,"url":"https:\/\/all4sec.es\/blog\/wp-content\/uploads\/2023\/01\/HDF-9-wahid-khene-iKdQCIiSMlQ-unsplash.jpg","type":"image\/jpeg"}],"author":"Juanjo Galan","twitter_card":"summary_large_image","twitter_misc":{"Escrito por":"Juanjo Galan","Tiempo de lectura":"5 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/","url":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/","name":"El nuevo horizonte de las Deepfakes - all4sec.es","isPartOf":{"@id":"https:\/\/all4sec.es\/blog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#primaryimage"},"image":{"@id":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#primaryimage"},"thumbnailUrl":"https:\/\/all4sec.es\/blog\/wp-content\/uploads\/2023\/01\/HDF-9-wahid-khene-iKdQCIiSMlQ-unsplash.jpg","datePublished":"2023-01-13T07:46:19+00:00","dateModified":"2023-01-13T07:46:20+00:00","author":{"@id":"https:\/\/all4sec.es\/blog\/#\/schema\/person\/d8839fb727b62b7c4e8598b89fdaafa9"},"description":"El nuevo horizonte de las Deepfakes. El video, una nueva forma de recurrir al enga\u00f1o utilizando la imagen de las personas.","breadcrumb":{"@id":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#breadcrumb"},"inLanguage":"es","potentialAction":[{"@type":"ReadAction","target":["https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/"]}]},{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#primaryimage","url":"https:\/\/all4sec.es\/blog\/wp-content\/uploads\/2023\/01\/HDF-9-wahid-khene-iKdQCIiSMlQ-unsplash.jpg","contentUrl":"https:\/\/all4sec.es\/blog\/wp-content\/uploads\/2023\/01\/HDF-9-wahid-khene-iKdQCIiSMlQ-unsplash.jpg","width":1920,"height":1114},{"@type":"BreadcrumbList","@id":"https:\/\/all4sec.es\/blog\/index.php\/2023\/01\/13\/el-nuevo-horizonte-de-las-deepfakes\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Portada","item":"https:\/\/all4sec.es\/blog\/"},{"@type":"ListItem","position":2,"name":"El nuevo horizonte de las Deepfakes"}]},{"@type":"WebSite","@id":"https:\/\/all4sec.es\/blog\/#website","url":"https:\/\/all4sec.es\/blog\/","name":"all4sec.es","description":"","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/all4sec.es\/blog\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"es"},{"@type":"Person","@id":"https:\/\/all4sec.es\/blog\/#\/schema\/person\/d8839fb727b62b7c4e8598b89fdaafa9","name":"Juanjo Galan","image":{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/all4sec.es\/blog\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/a3f0814447c3b2bad83feb430187bee0?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a3f0814447c3b2bad83feb430187bee0?s=96&d=mm&r=g","caption":"Juanjo Galan"},"url":"https:\/\/all4sec.es\/blog\/index.php\/author\/juanjo\/"}]}},"_links":{"self":[{"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/posts\/2632"}],"collection":[{"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/comments?post=2632"}],"version-history":[{"count":10,"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/posts\/2632\/revisions"}],"predecessor-version":[{"id":2648,"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/posts\/2632\/revisions\/2648"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/media\/2636"}],"wp:attachment":[{"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/media?parent=2632"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/categories?post=2632"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/all4sec.es\/blog\/index.php\/wp-json\/wp\/v2\/tags?post=2632"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}