¿Cómo engañar a una RED NEURONAL? Ataques Adversarios | DATA COFFEE #6

[@DotCSV]

📸 Sígueme en Instagram para más contenido tras las cámaras : instagram.com/dotcsv/ 💸 ...y apoya el canal en Patreon!!! : www.patreon.com/dotcsv

[@parkergriffin4388]

a trick: watch movies at Flixzone. Me and my gf have been using it for watching a lot of movies during the lockdown.

[@robertotorin289]

@Parker Griffin yea, I've been using Flixzone for since november myself :)

[@kamrynzahir9836]

@Parker Griffin definitely, have been watching on Flixzone for since november myself :)

[@DotCSV]

Si este vídeo llega al top 1 que no sea por ningún ataque adversario... sino por vuestro apoyo!!! Si les ha gustado dejen un LIKE y abajo comentarios con todas las dudas que les haya quedado sobre ataques adversarios. En el próximo IA Notebook veremos cómo programar uno de estos ataques :) Si quieren testear ustedes mismos uno de estos ataques, en mi cuenta de Twitter (twitter.com/dotCSV) les voy a compartir un link a una versión de Inception.V3 y una imagen con la que poder probar ¡Saludos y bienvenidos al 2018!

[@josicoSiete]

Dot CSV En serio, me encantan tus vídeos. Y llegan en el mejor momento posible, en ese en el que quiero aprender IA. Y de ahí mi duda. Cómo me recomendarías aprender Python? Porque sabía algo de java hace años, pero consideremos mis conocimientos nulos. Gracias por todo, y ojalá en este año consigas miles (o algún millón) de suscriptores

[@ganstabreakincity]

Yo estoy realizando mi trabajo de fin de grado sobre esto

[@carloshernandezperez6963]

Como persona que está metiendose en el mundillo del ML/DL y que tiene un café delante cuando escribe esto, quiero decir que me parece que este canalcillo que te has montado es de lo mejor que existe en KZbin de este campo a nivel castellanoparlante. Te conocí en el T3ch Fest al que también fuí de ponente y me gusto el rollo que llevabas en la charla que diste, sigue así tocayo!

[@dactiloide299]

Será muy interesante ver muy pronto un video de DotCSV en tendencias de youtube gracias a un ataque adversario XD

[@martinrc91]

Muy bueno!! Interesante el punto de vista del jefe de seguridad de inteligencia artificial. Imaginemos el día de mañana cuando estemos sumergidos en AI por todos lados (como el supermercado de Amazon con la compra sin necesidad de personal, o un sistema de ingreso a un edificio con reconocimiento facial), donde seguramente existan "hackers" que intenten sacar provecho de estos agujeros, va a ser muy importante el rol de esta persona para mantenerse actualizado de los errores y no lamentarse luego.

[@luistarazona4133]

Te encontre esta mañana, es el mejor canal de inteligencia artificial que he visto, mis respetos ..

[@robertozarza1455]

Me encantan tus vídeos describiendo lo que para muchos es el futuro pero para los curiosos es ahora

[@TANANDIN]

Creo yo que, Todo sistema es vulnerable, sea natural o arificial...y esto se debe por que todo es información procesada...lo interesante y entretenido es buscar la manera de lograr esos trucos....y como en toda evolución es necesario ir cambiando de tecnicas y métodos...buen video y espero el siguiente.....saludos desde México..!!

[@FranciscoRubio]

Estoy viendo todos los videos viejos del canal. Que divertido que te contentabas con 300 likes, ya tiene 2000. Y 27K reproducciones.

[@zech-tech]

Lamentablemente KZbin al parecer ha logrado evitar esto en su algoritmo pero ha pasado a afectar a uno de los mejores canales: C de ciencia :(

[@蜷川べに-g8h]

que bueno es verlo de nuevo mi amigo espero que tengáis un buen año y espero mas contenido y éxitos saludos desde Colombia

[@martina.a.4368]

Interesante el vídeo, he llegado aquí viendo un vídeo actual. Por cierto he descubierto el ataque adversario de este video, quieres que la IA de yt (si la hubiera) te meta el vídeo en bailes de salsa.

[@camilaonofri2624]

Me encantó! Super interesante. Esperando más de estos data coffees

[@elgatosoft]

He notado que casi todos tus videoa tienen 5, 7 o 10 "dislikes"... me late que tienes un par de personas a los que no le de verdad no les agradas y pasan tus videos solo para dar pulgar abajo. Son muy buenos tus videos, en serio, ¿ cómo no podrian gustar ?

[@billyteske6492]

Encontré tu canal y me ví todos los videos. Sin dormir. Sos un genio !!! Ahora entiendo mejor IA

[@xavierargentina]

La idea de que los sistemas reemplazaran la percepción del humano por ejemplo para la conducción de automóviles en un entorno sin control, o sea sin que la ruta esté preparada para el automóvil es algo que no va a dar resultado: Dado que existirá un crecimiento exponencial de estas fallas en la medida que se incremente el número de automóviles y estarán prohibidos por la misma razón que no se le entrega la licencia de conducir a un epiléptico. Para contrarestar esto, sin salir NUNCA de la idea de que la causa de los accidentes ES LA CONDUCCIÓN HUMANA van a tratar de incorporar la modificación del entorno OBLIGATORIA, una persona para salir de su casa tendrá que tener algún dispositivo los autos que no sean autónomos tendrán que tener algo similar y así mucha parte del entorno. Todo lo que el sistema de reconocimiento no pueda resolver será entonces no tomado cómo un defecto del sistema sino cómo una ausencia de controles y homologaciones de los otros objetos individuos y entorno. Dado que las IA estarán en todos lados no estaremos en otra situación más que la de minimizar las fallas a través de la estandarización perpetua de los entornos y los individuos. Ciertos rostros no pueden tener barba, tales anteojos no se pueden usar, ciertos accesorios tienen que estar homologados. Pero esto no termina ahí, cualquier conducta impredecible detectada por un algoritmo puede ser tomada cómo una amenaza para el sistema, básicamente no se llegará a otra conclusión más que: "la única forma de vivir en una sociedad seguirá será que cada aspecto de nuestra vida esté controlado y supervisado". Y en este camino ya estamos.

[@skydrone-mid3273]

Esto me recordó cuando participé en el Bitcoin Challenge de la imagen de Pip (310 btc) una imagen manipulada que tuve que modificar hasta que encontré código QR y un código binario. ¡Es genial!

[@tuprogresohumano]

13:56 Nuevo trabajo del futuro; Ingeniero de seguridad de IA.

[@rodanmuro]

Saludos desde Colombia. Felicitaciones por el canal, buena edición en tus videos y buen contenidos. Gracias

[@CarlosestebanVargasMoreno]

Parcero

[@andreamonserratarredondo3407]

Ya quiero programar ataques jaja.

[@saidtorres3]

@Yo Soy un Nekito Kawaii Yo lo desencripté con una computadora cuántica.

[@jorgeponce5147]

Hola, me gusta tu canal muy profesional. Me gustaría que hables de virus informáticos creados a partir de la inteligencia artificial. Saludos

[@Hector.Pulido]

Bro, me gustaría algún día colaborar contigo, tu canal es genial, ¡sigue por este camino máquina!

[@DotCSV]

Viendo el contenido de tu canal, en un futuro podríamos mirar juntos hacer un vídeo sobre Unity Machine Learning :)

[@Hector.Pulido]

Dot CSV hay que planearlo 😋 Sobre este video, me parece increíble (o por lo menos curioso) que la red neuronal adversaria y la red neuronal víctima se comportan como predador y presa

[@arielfilippazzo9449]

les digo algo a los .... hector, a vos te tnego en facebook, tnego algo para proponerte sobre este tema, y a vos DOT, ya te contacto un socio mio x otro lado.

[@oscarbertel1449]

Pienso que los ataques adversarios podrían usarse para generar un nuevo conjunto de datos de entrenamiento y usar ese conjunto para hacer más robusto el entrenamiento.

[@corberasol7669]

Buenas tardes. Acabo de ver el video y me parece muy interesante. Tengo una pregunta: ¿se puede usar la red neuronal para OCR de documentos escritos? Gracias José :-)

[@AdrianLoaizaCo]

5:30 la palabra correcta sería "analogía", le metáfora se usa con fines estéticos, p. ej. "tus neuronas son como las estrellas del firmamento"

[@fernandocaballero6620]

felicidades por los 200K sigue asi bro

[@elnax88]

Pero la solución podría ser que no analizara solamente la imagen en si, sino que la distorsione previamente para eliminar ruido y validar su resultado, quizás de varias maneras, difuminando, añadiendo ruido propio, etc. Y así tener un mecanismo de control para reducir el exceso de información que la lleva a equivocarse no ?¿

[@claudioayma9906]

Excelente vídeo como siempre.. Saludos desde Bolivia

[@t41ru5]

Genial, estimado te había enviado un mensaje por face para ver si subir este contenido a ivoox para escucharlo como podcast, se agradeceria mucho Saludos y gracias por tu contenido.

[@DotCSV]

Buenas! He tenido en cuenta tu comentario y he subido los Data Coffees como podcasts. En este link iré subiendo los próximos (www.ivoox.com/s_p2_497122_1.html) Saludos!

[@t41ru5]

Dot CSV gracias ahora te podré escuchar camino al trabajo c:. Saludos.

[@miguelestevez5765]

deberias beber mas cafe en los data coffee

[@MrAndrewiphone1]

Una pregunta, entrenar estos ataques adversarios no sería muy demorado? Según entiendo se entrena por ensayo y error de forma manual. (Muy interesante el tema!)

[@PolloBarria]

Hola Carlos, muy buen contenido! De casualidad conoces libros que hablen sobre ataques adversarios? Saludos desde Chile

[@lperezherrera1608]

¿Se podría utilizar esta técnica para engañar a la IA de KZbin? Por cierto, buen video ;)

[@matiasf90]

Se podría usar un ataque adversario en los video para que no se detecte el copyright de la música?

[@zombyMT]

Ya quiero el siguiente IA notebook!! Para cuándo?

[@skchup4360]

Pero esto tiene su lado positivo , esto puede hacer que un capacha sea mas seguro , y se pueden entrenar a otra redes a partir de estos atauques y duplicar redes no?

[@javier_medel]

Para cuando tendra el video de gradient descent? es un tema en que me gustaria saber tu explicacion :) Saludos!!

[@roxana7975]

Una pregunta, quizá no tenga qué ver con el tema pero quisiera saber tu opinión: ¿Un robot puede superar en inteligencia a un humano?

[@memovallejo9653]

Creo que estos tipos de ataques ya se dan en YouaTube, aquí alguien que analizó algo sobre este tema (video en Inglés): kzbin.info/www/bejne/Z4GqnmuCqNF4mJY

[@moisesdiaz9852]

Uff super aporte!

Conclusión: vulneraste a la red neuronal de KZbin con algo en tu camiseta, y te hiciste tendencia jeje.

[@CarlosestebanVargasMoreno]

Un final épico tipo c de ciencia: Aluuussssssinante

[@oohmama1234]

¿Debería hacer mi trabajo de final de carrera sobre redes neuronales?

[@joseluisgomez7428]

alguien mas se dio cuenta que el ruido aleatorio del 7:33 no es aleatorio sino que esta diseñado minusiosamente de acuerdo a la imagen del coche

[@CarlosestebanVargasMoreno]

Hay seguidores que piensen, por que antes no había visto este canal?

[@055pepe]

literal este es el hack de la red neuronal muy interesante

[@juanete69]

¿Y cómo defensea contra ataques adversarios sin que haya overfitting? Un double-adversarial-defense.

[@christiang.palominor.2365]

Me ha pasado en youtube, aunque no sé si el vídeo fue echo a drede, hace unos días a mi hija le apareció dentro de las sugerencias de vídeos para niños en youtube un vídeo de un Barney a modo de dibujo que cantaba groserías y mostraba su pene en partes del vídeo, es una muestra que las redes neuronales de youtube aún no están completamente optimizadas para clasificar correctamente su contenido o que es muy propensa a éste tipo de ataques ~

[@ChFernandezRios]

Muy interesante!

[@delfos.psicologiaonline.4376]

Espectacular

[@delfos.psicologiaonline.4376]

👏👏👏👏👏👏

[@Taatoo04]

Gracias muy buen vídeo

[@ComputadoraSistemas]

¿Me pregunto si estos ataques siguen siendo viables en youtube a día de hoy?, me pregunto si algún usuario de 4chan ha intentado manipular el algoritmo de youtube para subir material indebido

[@MarcoFriz]

Whooooo ya pasó un año

[@josejulianalanyareyes3395]

Sobre la (IA) es cierto que facebook u otros han creadoun sistema que piense por si mismo para encontrar soluciones y a la vez interactuando con otro IA para la obtencion de solucion, etc y luego que esto mismo se escapo por la red; o solo es un falso rumor

[@jonyjoelcordero5550]

excelente vídeo ..!! go go go..!!!

[@yuryeuceda8590]

Las redes neuronales tienen un grave problema: Entrenadas con el mismo dataset convergen al mismo estado sin importar el estado inicial. Esto es fatal.

[@nikse2028]

como?? explicate

[@yuryeuceda8590]

@@nikse2028 De que el cerebro humano no es así. Eso lo deja en evidencia por ejemplo el problema del vestido blanco y dorado o el vestido negro y azul que hace un tiempo dividió a la gente. Si los cerebros humanos funcionaran exactamente como las RNA entonces ese problema no existiría. Ojo este es solo un ejemplo de un conjunto de cosas que sabemos acerca de las RNA. Aunque son muy útiles, no son la última palabra.

[@nikse2028]

@@yuryeuceda8590 bno, eso me emociona mas, aun hay mas por descubrir, espero aportar algo ahi :'D,

[@josicoSiete]

Me tomaré un POLEo menta, en vez de un café

[@DotCSV]

A estas horas nocturnas PO LE sentará bien que se lo tome :)

[@santosvalla]

Y si entrenamos una red neuronal para detectar que imágenes son buenas y cuales retocadas no resolveríamos parte del problema? Esta red neuronal se utilizaría como filtro de las demás

[@DotCSV]

Pues fíjate que justamente esto que comentas es muy interesante, porque es el fundamento de las Redes Adversarias Generativas (GANs): Una red que se encarga de aprender generando ataques adversarios, y otra que intenta aprender a no ser engañada. Y este tipo de redes son muy prometedoras, como vimos ya en otro Data Coffee. Vamos, que llegas a tener esta idea hace 4 años y lo hubieras petado! :)

[@santosvalla]

Dot CSV Bueno... Pero yo no lo aplico para generar nada simplemente para proteger a las redes de ataques xD

[@santosvalla]

Soy un genio! :D XD facebook.com/technologyreview.es/posts/10155552657077153

[@MrMaxtermax]

super interesante

[@jymmy8312]

Este vídeo es muy interesante, pero la música es muuuy rayante, me ha costado ver el vídeo entero sólo por eso.

[@VictorToroMostajo]

El problema de la inteligencia artificial actual es que no es inteligencia, es solo un comparador estadístico y eso esta muy lejos de ser inteligencia.

[@VictorToroMostajo]

+Rotación De Campo NO, nuestro cerebro o los procesos sinapticos no son estadísticos, almacenamos información de forma de deformación espacio tiempo y así podemos almacenar un ápice de la información y deformarla para establecer parámetros con finales estadísticos (que no es lo mismo). de otra forma necesitaras demasiado tiempo para crear predicciones, y en u proceso evolutivo, mas tiempo de aprendizaje significa mas tiempo expuesto, mas energía gastada, mas probabilidades de morir. A una maquina le enseñas un objeto y no hará nada, a un humano le muestras un objeto y esa información se transforma en millones de datos relacionados. Con un mínimo de gasto energético. YA eh resuelto la mitad del problema, bueno la mitad de la mitad, pero te puedo decir que la inteligencia artificial actual es igual a un gusano con retraso.

[@VictorToroMostajo]

+Rotación De Campo La verdad no, lamento contradecirte, pero escribir tanta información sin entender los procesos, es realmente penoso. Todo los que has escrito es correcto, mas aun, de ser honesto es demasiado. y lo peor te falta la información de mayor relevancia. nuestro cerebro usa 30 watts/h de energía y almacena tanta información que necesitaríamos 1500 años para llegar a llenarla, considerando que no olvidemos nada. y con 0.001 de esa porción es capas de hacer cosas increíbles. Por otro lado la AI necesita miles de kilowatts/h, mas miles de terabits de almacenamiento, mas millones de datos de entrada, mas un tiempo indeterminado para ver si acaso logra hacer algo escasamente similar. si comparas una maquina de Turing (sistema de base de los sistemas informáticos) con la inteligencia humana veras que es una maquina increíblemente ineficiente redundante y grotesca. Ya desde ahí no hay comparación alguna. La información nunca sera tan importante como la forma en que la integras, relacionas, asimilas e implementas, si no solo son datos sin valor alguno. Respeto tu opinión mas creo que el camino andado hasta aquí es erróneo, por muchas razones aplastantes. Saludos

[@VictorToroMostajo]

PD: sabias que nuestro cerebro contiene toda la información que necesitamos hasta el día de nuestra muerte incluso de nacer.

[@VictorToroMostajo]

+Rotación De Campo La verdad creo que escribes mucho. No tengo dudas que la AI funciona, ese no es el problema. De echo funciona tan bien que la gente no cuantifica si es lo correcto y es así con muchas cosas que nos rodean en la actualidad. Funcionara en enormes data center y la información estará contenida y distribuida y sera un sistema eficiente pero jamas eficaz. Y es ahí donde abordo mi investigaciones, Pienso que en medida que podamos hacer una red neuronal eficaz en proporción de tamaño consumo energético en independencia, solo en ese entonces podremos crear sistemas capaces de desempeñar labores que hasta ahora solo el hombre puede hacer, y no hablo de reconocer un perro en una foto, hablo de cosas complejas muy complejas. Cuando alguien explica algo de una forma muy compleja es un indicio de que no entiende realmente lo que habla. Bueno eso piensa Albert. Hay mucho que hacer y no podemos llevar esos enredados, aparatosos, enormes y precarios sistemas para que hagan algo útil. Hay que encontrar mejores soluciones y creo haber encontrado una. Pero hay tanto que los sistemas actuales no cubren que es muy poco fiable depender de tan absurda tecnología. Eres un entusiasta pero aveces el entusiasmo nos ciega. No es una discusión ya que defiendes un tema yo ya lo eh probado desarroyado, evaluado y deja mucho que desear. desde la base parte mal. Cuídate nos vemos. No responderé mas, creo que es innecesario. No quiero disuadirte que cambies porque no estas mal, solo haces lo que todos hacen y eso no es pecado.

[@moisesmanuelmorinhevia.8774]

Love.

[@robonerfe]

Jajaj genial!!

[@leghlegh384]

Por qué tú intro parece una publicidad para vender café?

[@big3674]

Legenda em português seria bom...