La Unidad de Hackers Éticos de Thales crea un metamodelo para detectar imágenes falsas generadas por IA

La inteligencia artificial es el tema central de la Cyber Week europea de este año, que tiene lugar entre el 19 y el 21 de noviembre en Rennes (Bretaña). En el marco del desafío organizado por la Agencia de Innovación de Defensa francesa (AID), que coincidirá con la Cyber Week, los equipos de Thales han desarrollado con éxito un metamodelo para detectar imágenes generadas por IA. A medida que el uso de las tecnologías de IA gana terreno, y en una época en que la desinformación es cada vez más frecuente en los medios de comunicación y afecta a todos los sectores de la economía, este metamodelo de detección de «deepfakes» puede ayudar a combatir la manipulación de imágenes en una gran variedad de casos de uso, como la lucha contra la suplantación de identidad.

Este comunicado de prensa trata sobre multimedia. Ver la noticia completa aquí: https://www.businesswire.com/news/home/20241120768241/es/

Las imágenes generadas por IA se crean mediante plataformas de IA como Midjourney, Dall-E y Firefly. Se han realizado estudios que demuestran que dentro de unos años el uso de «deepfakes» para el robo y la suplantación de identidad podría causar enormes pérdidas financieras. Gartner estima que es muy probable que en alrededor del 20 % de los ciberataques que se produjeron en 2023 se haya utilizado contenido «deepfake» en distintas campañas de desinformación y manipulación. El informe de Gartner1 destaca el creciente uso de «deepfakes» en el contexto de fraudes financieros y ataques de phishing sofisticados.

El metamodelo de detección de «deepfakes» de Thales aborda el problema de la suplantación de identidad y las técnicas de «morphing»2 dijo Christophe Meyer, experto sénior en IA y director de tecnología de cortAIx, el acelerador de IA de Thales. “Valernos de conjuntos de métodos que utilizan redes neuronales, detección de ruido y análisis de frecuencias espaciales nos ayuda a mejorar la protección del creciente número de soluciones que requieren de verificación de identidad biométrica. Se trata de un avance tecnológico notable que evidencia la gran experiencia de los investigadores de IA de Thales”.

El metamodelo de Thales utiliza técnicas de aprendizaje automático, árboles de decisión y evaluaciones de las fortalezas y debilidades de cada modelo para analizar la autenticidad de las imágenes. El metamodelo combina varios modelos, entre los que se incluyen:

  • El método CLIP (Contrastive Language-Image Pre-training), que consiste en conectar la imagen y el texto mediante el aprendizaje de representaciones comunes. Para detectar «deepfakes», el método CLIP analiza imágenes y las compara con sus descripciones textuales para identificar incoherencias y artefactos visuales.
  • El método DNF (Diffusion Noise Feature), que utiliza sistemas de generación de imágenes (llamados modelos de difusión) para detectar «deepfakes». Los modelos de difusión funcionan en función de la estimación de la cantidad de ruido que debe añadirse a una imagen para provocar una «alucinación», que crea contenido de la nada. Esta estimación, a su vez, se puede utilizar para detectar si una imagen ha sido generada mediante IA.
  • El método DCT (Discrete Cosine Transform) de detección de «deepfakes», que analiza las frecuencias espaciales de una imagen para detectar artefactos ocultos. Al transformar una imagen del dominio espacial (píxeles) al dominio de la frecuencia, el método DCT puede detectar anomalías sutiles en la estructura de la imagen, que se producen cuando se generan las «deepfakes» y que, a menudo, son invisibles a simple vista.

El equipo de Thales que está detrás del desarrollo de este metamodelo forma parte de cortAIx, el acelerador de IA del Grupo, que cuenta con más de 600 investigadores e ingenieros de IA, 150 de los cuales se encuentran en el área de investigación y tecnología de Saclay, al sur de París, y trabajan en sistemas de misión crítica. El equipo de hackers éticos ha desarrollado un conjunto de herramientas llamado BattleBox con el propósito de evaluar la solidez de los sistemas basados en IA frente a los ataques diseñados para sacar provecho de los puntos débiles de los distintos modelos de IA (entre los que se incluyen los modelos de lenguaje de gran tamaño), como los ataques adversarios y los intentos de acceder a información sensible. Para contrarrestar estos ataques, el equipo se encarga de desarrollar medidas paliativas avanzadas, como el desaprendizaje, el aprendizaje unificado, las marcas de agua para los modelos y el fortalecimiento de los modelos.

En 2023, Thales demostró la experiencia de su equipo durante el desafío CAID (Conferencia sobre Inteligencia Artificial para la Defensa) organizado por la Dirección General de Armamento francesa (DGA), que consistía en el hallazgo de datos de entrenamiento de IA incluso después de que hayan sido borrados del sistema para proteger la confidencialidad.

Acerca de Thales

Thales (Euronext Paris: HO) es un líder mundial en tecnologías avanzadas especializado en tres áreas empresariales: Defensa y Seguridad, Aeronáutica y Espacio, y Ciberseguridad e Identidad Digital.

El Grupo desarrolla productos y soluciones que contribuyen a que el mundo sea un lugar más seguro, más ecológico y más inclusivo.

Thales invierte cerca de 4 mil millones de euros al año en Investigación y Desarrollo, especialmente en áreas claves para la innovación como la IA, la ciberseguridad, la tecnología cuántica, las tecnologías de computación en la nube y la tecnología 6G.

Thales cuenta con 81 000 empleados en 68 países. En 2023, el Grupo generó ventas valuadas en 18 400 millones de euros.

VISITE

Grupo Thales Defensa

Thales

Desarrollamos sistemas de IA de confianza | Grupo Thales

1 Informe Gartner de 2023 sobre Riesgos Emergentes de Ciberseguridad.

2 El «morphing» consiste en transformar gradualmente un rostro en otro en etapas sucesivas mediante la modificación de los rasgos visuales para crear una imagen realista que combine elementos de ambos rostros. El resultado final es una combinación de las dos imágenes originales.

El texto original en el idioma fuente de este comunicado es la versión oficial autorizada. Las traducciones solo se suministran como adaptación y deben cotejarse con el texto en el idioma fuente, que es la única versión del texto que tendrá un efecto legal.

«El comunicado en el idioma original es la versión oficial y autorizada del mismo. Esta traducción es solamente un medio de ayuda y deberá ser comparada con el texto en idioma original, que es la única versión del texto que tendrá validez legal».

En el marco del desafío organizado por la Agencia de Innovación de Defensa francesa (AID) para detectar imágenes creadas por las plataformas de IA actuales, los equipos de cortAIx, el acelerador de IA de Thales, han desarrollado un metamodelo capaz de detectar «deepfakes» generados por IA. El metamodelo de Thales está conformado por un conjunto de modelos, cada uno de los cuales califica la autenticidad de las imágenes por medio de un puntaje para determinar si son reales o falsas. Los contenidos de imagen, video y audio generados artificialmente por IA se utilizan cada vez más para desinformar, manipular y para el delito de suplantación de identidad. – Business Wire

0 responses to “La Unidad de Hackers Éticos de Thales crea un metamodelo para detectar imágenes falsas generadas por IA

  1. Pingback: www.negociame.com
  2. Pingback: www.mirlobolsa.com
  3. Pingback: Depósitos Sobre Ruedas de Banesto
  4. Pingback: sacale el maximo rendimiento a tu nomina: nuevas ofertas
  5. Pingback: Domiciliar la nómina: nuevas ofertas | PRÉSTAMOS, HIPOTECAS Y CRÉDITOS
  6. Tengo varias preguntas sobre esto a ver si me podiais aclarar:
    -¿Puedo hacer un ingreso regular de 800 euros y me cobran 0euos de comisiones y mto.?
    -¿Puedo sacar el dinero cuando quiera?,¿todo ó tengo entendido que hay que mantener un mínimo de 100 euros los 30 meses?
    -No necesito pero me obligan a sacar una tarjeta de débito que me cuesta 11 euros el primer año y 22 euros la renovación, también otra de credito que me cuesta 0 euros el primer año y 35 euros la renovación.
    ¿Hay que mantenerlas 13 meses?
    ¿Puedo cancelar alguna de ellas desde el principio?
    ¿Puedo cancelar alguna de ellas antes de la renovación?
    ¿Hay alguna tarjeta de credito más barata?
    Aparte de la cuenta nómina he visto que también que para que te den la tv también se puede sacar una cuenta tarifa plana básica o personal, ¿sabeis algo de estas cuentas?¿que requisitos tienen?
    Muchas gracias a todos por responder

  7. Yo fui a informarme y te cuento. Únicamente admiten los ingresos regulares en el caso de que seas autónomo. Te abren una cuenta Tarifa Plana Cero que está exenta de comisiones y presenta alguna ventaja más. Sobre dejar un mínimo de saldo en la cuenta no es necesario, pero sí te obligan a mantener varias tarjetas durante los 30 meses con un coste aproximado de 100 euros anuales.

  8. hola buenas!
    me llamo javi y estoy dudando de que banco, me puede dar mas beficios, sin sorpresas por domiciliar la nomina, ya que llevo años en la caixa y no me da nada ningun beneficio. es mas me rechazan los prestamos que solicito, ni siquiera una targeta de credito, por alegan de que siempre esta a cero la cuenta, yo cuando cobro la nomina dejo el dinero para los pagos, y saco el resto, pues no me fio, de que un dia me quede sin dinero, ya que esta todo muy mal, corre riesgo mi dinero o mis ahorros en el banco?? muchas gracias y un cordial saludo.
    javi

  9. NO TE EXTRAÑE QUE NO TE DEN LOS PTMOS, PORQUE LO QUE VEN ES QUE NO TIENES CAPACIDAD DE AHORRO PORQUE SIEMPRE DEJAS LA CTA. EN MINIMOS, ASI NINGUN BANCO TE LO VA A CONCEDER. TAMBIEN ES VERDAD QUE LA CAIXA, COMO TANTAS OTRAS CAJAS, TIENE EL PUÑO CERRADO PARA LOS RIESGOS, PARA REMONTAR. NO TE PREOCUPES, QUE POR UNA NOMINA NO CREO QUE NINGUN BANCO SE COJA LAS MANOS. LOS QUE SE TIENEN QUE PREOCUPAR SON LOS QUE TIENEN DÉPÓSITOS Y FONDOS EN BANCOS DE DUDOSA ACTIVIDAD. LA GENTE SE PIENSA QUE PORQUE LES DEN UN 7% YA ES UN GRAN BANCO Y SE EQUIVOCAN. LO QUE LES PASA ES QUE EL BANCO DE ESPAÑA LES PRESTA EL DINERO MAS CARO Y POR ESO OPTAN POR CONSEGUIRLO EN EL MERCADO MONETARIO, Y SI EL BANCO DE ESPAÑA NO SE FIA DE ELLOS, VA Y SE FIA LA GENTE. QUE LOS BANCOS NOES LA ADMON PUBLICA, ABRAN OS OJOS.

  10. Hola , cuando vallais al banco queos dejen lo que hay que pagar de irpf y de iva sobre el valor de la tele ya que en la mayoria de bancos esto no lo dicen y luego llagan las sorpresas .A mi ya me ha pasado con la promoción del portatil y nunca me hablaros de esto . Cuidado

  11. Yo he estado calculando y la tele entre unas cosas y otras te sale sobre unos 250euros que tampoco regalan tanto .Hay oficinas en las que han dado la occión de poner un dinero a plazo fijo a 12meses de 9300euros o 6800euros a 18 meses.

  12. No es ningún chollo. Te obligan a contratar dos tarjetas de crédito que tienes que pagar porque las tienes que mantener 13 meses por lo menos y además llevan unos costes desproporcionados si las utilizas. En total, no usando las tarjetas y anulándolas una vez cumplidos los 13 meses puedes ahorrar unos 38 euros con respecto al precio de ese televisor en una gran superficie. Y además luego vendrá que te cobran para hacienda la retención correspondiente, por lo que probablemente incluso en las mejores condiciones te cueste más que si ahorras un poco y lña compras directamente.

  13. Creó que teneis toda la razón, que aqui no te regalan nada, ya que a mí me paso con unas sartenes que regalaban el banco bilbao, que al final entre el irpf y el descuento de Hacienda, al final me salieron caras, así es que no os tomen el pelo, que al final siempre esta la letra pequeña que es la que nos joroba, por no decir otra cosa.

  14. Yo saque el portatil y ahora me he sacado la TV LCD 32. Estas promos no hay que declararlas. No es obligado domiciliar nomina. Si, meter en la cuenta 800€ todos los meses en un margen de 10 dias. Cero matacero, pero cero,cero, cero de gastos de mantenimiento, ni por recibos, ni por el correo a casa, ni por transfer. Las tarjets gratis el 1er año. Resto fuera. Dadas de baja Menos la de debito. Banesto no pierde nada, ganar, gana clientes que es el proposito de esta promo. Precio de portatil y tv 32 en mercao unos 900€ los 2. En banest 197€. Los hay mejores, nos ha jodio! portatiles a 1200€, TV LCD 32 a 1000€. Señores, son lentejas. Relacion calida-precio-promo es cojonud…….Un saludit a los viandantes.

  15. Pingback: Banesto: 1.000 euros por domiciliar nómina
  16. Pingback: 1000 euros por dominiciliar nómina en Banesto
  17. Pingback: Domiciliar la nómina: nuevas ofertas
  18. Pingback: Banesto: Wii de regalo por domiciliar la nómina y tres recibos
  19. Pingback: Regalos por domiciliar nómina en Banesto
  20. hola , no se si llegara mi comentario pero os voi a esplicar. esto es el cuento de la abuela. mira yo tengo el portatil. y he cogio tab la tele, pero sabeis ke?, me ha pasado de todo. os esplico. primero me cobran 74 euros y 25 euros de unas tarjetas que yo no las he visto aparecer por mi casa , me cabreo con el banco. llamo y pido esplicaciones. me dicen que van en la promocion, nunca jamas nadie me informo de las tarjetas, no me devuelven el dinero. me cabreo y me dicen que llame aun numero de tefono para darlas de baja, se pasan los dias, intentamos darlas de baja. largas y larga, que si este numero de tefono que si el otro bla bla bla. conseguimos hablar y nos dicen que tenemos que cambiar el contrato a tarifa plana o no se ke historias, llamando al banco se pasan los dias, largas y largas. me cabreo y estoi por suspender todo, me dicen que si lo quiero cambiar y dar de baja las tarjetas que nunca he tenido. tengo que pagar comisiones cada seis meses de doce y pico euros, y que si no quiero que me cobren comisiones tengo que ir todos los meses al banco a hacerlo yo, ufffffffffff.aun hay mas. me dan de baja y me hacen la tarifa plana, se equivocan un monton de veces. me hacen pasar muchos cabreos.y al final cuando llego a casa me han cobrado 25, 50 euros. y llamo por telefono y se lo digo , me dicen claro por dar de baja la otra cuenta , la madre que los pario. ladrones. o sea os digo que la tele no sale regalada, se la cobran y muy bien cobrada , nadie da nada por nada. en cuento termine de pagar lo que debo quito todas las cuentas del banesto.espero que alguien me lea y que me conteste gracias .

  21. Banesto ha jodido a mi marido y a un amigo tambien. Para mi, despues de Banco de Andalucía son los peores. Y quieran creerlo o no ni la television ni el portátil te lo regalan.. como no cumplas cualquiera de las reglas te sancionan con 300 y pico de euros.. porque nos hemos mudado de casa y los recibos domiciados se cortaron «temporalmente» la sancion fue de mas de 300 euros.. y el cabreo q te llevas cuando ves lo q te han descontado y luego para ir a reclamarlos.. y como te tratan !! en fin.. espero que Banesto sea lo primero en undirse en el fin del mundo!!

  22. CHOLLO!!!!!!!!!JAJAJAJAJA…….NO ES NINGUN CHOLLO!!!!!!! te cobran 100 € de gastos de manipulacion, mas 150 € en tarjetas durante 2 años, mas 6 € mensuales de mantenimiento de cuenta durante 30 meses, total que pagas 630 Euros por un ordenador o una TV que su valor seguro que no llega a 500 €. Y encima si vas a cancelar la cuenta cuando cumples los 30 meses requeridos te hacen esperar dos horas para decirte que no tienen linea de telefono para dar de baja la cuenta, cosa que no para nunca cuando vas a contratarlo. Y del trato que dispensan….., es el mismo que si vas con un fajo de billetes de 500 € por los CO-JONES

  23. Banesto «premia», menuda falacia…
    No hay ningún banco que premie a nadie.
    BANESTO NECESITA NUESTRAS NÓMINAS, Y EN CUANTO VAS UN POCO JUSTO, COMO BUENOS JUDÍOS Y ÁVAROS QUE SON, TE ACOSAN Y MACHACAN, Y TE SACAN HASTA LAS ENTRAÑAS EN COMISIONES.
    DESPUÉS EL ESTADO APOYA A LOS BANCOS, CON LA EXCUSA DE QUE SI CAEN LOS BANCOS CAEMOS TODOS. LOS BANCOS NECESITAN UN BOICOT DE VEZ EN CUANDO, PARA QUE NO NOS RESTREGUEN POR LA CARA SUS BENEFICIOS.

  24. POR CIERTO, LO QUE MÁS FASTIDIA A UN BANCO ES UNA RECLAMACIÓN EN LA OFICINA DEL CONSUMIDOR Y OTRA AL BANCO DE ESPAÑA.
    ES POR DAR PISTAS…