¡El Trabajo MÁS IMPORTANTE que Explica el INTERIOR de una IA!

Anthropic ha logrado descifrar el aprendizaje interno de su modelo Claude 3, usando una nueva técnica de interpretabilidad. Con ella han encontrado los numerosos patrones que se esconden en las tripas de la red neuronal, lo cuál no sólo ha permitido entender mejor su funcionamiento, sino también poder controlarla. Hoy explicamos este trabajo.
👉 ARTÍCULO INTERPRETABILIDAD - May. 2024
www.anthropic.com/news/mappin...
👉 ARTÍCULO INTERPRETABILIDAD - Oct. 2023
www.anthropic.com/news/toward...
👉 PAPER INTERPRETABILIDAD - Oct. 2023
transformer-circuits.pub/2023...
📹 EDICIÓN: Carlos Santana Vega
-- ¡MÁS DOTCSV! ---
📣 NotCSV - ¡Canal Secundario!
/ notcsv
💸 Patreon : / dotcsv
👓 Facebook : / ai.dotcsv
👾 Twitch!!! : / dotcsv
🐥 Twitter : / dotcsv
📸 Instagram : / dotcsv
- ¡MÁS CIENCIA! --
🔬 Este canal forma parte de la red de divulgación de SCENIO. Si quieres conocer otros fantásticos proyectos de divulgación entra aquí:
scenio.es/colaboradores

[@DotCSV]

¡No dejéis de suscribiros y compartir el vídeo para ayudar al canal a llegar al 1.000.000 DE SUBS! 🔥

[@leninhuerta6309]

... me gusta la entrada del micro!!... 😜

[@MrAjema]

¿Para cuando vídeo de la IA de Apple , que es lo más impresionante y relevante que ha ocurrido en los últimos años?

[@mmmvvv5134]

O sea, este tipo de trabajo tambien puede servir para decifrar como funciona el cerebro orgánico como el del humano, (empezando por ratones), un paso hacia el rapido aprendizaje (copiar y pegar aprendizaje) y procesamiento colectivo de soluciones, (jeje lo ultimmo está un poco exagerado).,

[@sunagharta1620]

Hola, cómo puedo contactar contigo? Si pudieses por favor ayudarme en un proyecto. Gracias ante todo

[@jhonj.alk.c411]

😂😂😂😂😂😂😂😂

[@lobo_azul5854]

2020: las IAs nos van a destruir 2024: la IAs: soy un puente

[@edigvn]

"Ahora 💪 hay que controlar a Open AI y Antrophic y a los demás les dará vergüenza quedarse solos...* 😂 😅😅

[@pinchaglobos3]

😂😂😂

[@helioshyperion3430]

*soy un puente margue

[@jackdawson2292]

ya no tendrán a nadie a nadie ​@@edigvn

[@martin-dw]

me hace acordar al de SOY UN AUTO

[@mew6941]

"Ya me quiero ir a casa jordi" 🤣🤣🤣🤣🤣🤣🤣🤣 te pasaste, como alcanzaste a incluir eso en este video, una frase salida del corazón y de las neuronas de Javi intentando interpretar lo imposible.

[@elmegapeluco]

Me he partido de risa con eso yo también, por cierto si te molo el debate, te recomiendo un video que se llama Metatrón vs Nemotrón, es otra fumada muy buena. Saludos.

[@pinchaglobos3]

😂😂😂

[@alanandrew97]

En que min?

[@Leibniz_28]

3:58 😂

[@luisangelgaleanoflores6503]

😂😂😂

[@jesanabriah]

Acaban de descubrir la gallina de los huevos de oro. Encontraron la manera de meter publicidad de forma natural dentro de un LLM

[@HawkX189]

Si lo juntas con los intereses de la persona ya tienes la maquina de recomendaciones perfecta.

[@dixon123ization]

Que asco :(

[@juanmaa1414]

Oh por Dios, no des ideas 😂😂

[@aratheonquark3495]

"...ya podemos decir que entre las dos empresas han tendido puentes..." XDDDDDDDD

[@iSolesArt]

De Oro!!

[@sherlock89]

jaja lo de Javi está muy bien traído...

[@Sakkshi_]

Me duelen los videos cada 1 mes, pero me encanta la calidad de cada video. AAAAAAAAAAAAA. une œuvre d'art

[@DotCSV]

Hay que elegir, calidad o cantidad? 😅

[@azhuransmx126]

​@@DotCSV Calidad 👌

[@XaviIntheHouse]

​@@DotCSVen un futuro gracias a la IA podremos elegir ambos😮

[@fabrizioAC23]

​@@XaviIntheHouse hasta entonces prefiero calidad, estos videos están en otro nivel😎

[@helioshyperion3430]

@@DotCSV na na na a laburar doc.

[@golfsnake]

Excelente video @DotSCV. Tus difusiones son más sólidas que los cables del puente de San Francisco! Muchas gracias.

[@sergiomadico8376]

3:50 hermosa referencia 😂

[@oscarltbro6808]

Me encantó tu Golden Gate, perdón, tu video.

[@JorgetePanete]

Me hace pensar en cómo piensan los humanos, ¿y si las convicciones irracionales se deben a un puñado pequeño de neuronas dañadas?

[@kouta2594]

Puede ser a una mal manera de ser entrenadas (unas neuronas del cerebro), como que alguien le explica algo mal desde pequeño y se lo aprende de memoria.

[@yoyea2807]

Aún hoy se asocia erróneamente el funcionamiento de las máquinas con el del cerebro humano. Ahora con las IAs sucede igual. Lo literal en asuntos de IA y ser humano tampoco creo que sea apropiado -aunque sigue siendo interesante

[@rolandojtorres]

Antes la IA era muy segura porque no habia como obligarla a hacer algo para lo que no fue entrenada, ahora ya podemos obligarla a hacer lo que el dinero o la politica o el poder digan.

[@alexperez1663]

Estoy empezando con el mundo de la programación y me fascina lo ingeniosa que es la gente para optimizar los procesos. Vídeo increíble, educativo y entretenido. Gracias

[@XaviIntheHouse]

si te adentras en el mundo de los algoritmos, la matematica se hara necesaria y gracias a esa matematica, es que se pueden optimizar aun mas las cosas.

[@darkwin_ph]

La obsesion de la iA con el G.G, me recuerda a como funciona el "hiperfoco" en los Autistas al obsesionarse con un único tema

[@XaviIntheHouse]

entonces ne estas diciendo que a las IAs le gustan muchos los autos?

[@Crasterius]

@@XaviIntheHouse ¿JV? ¿Eres tú? Mándale un saludo al TvNauta.

[@alvaroluffy1]

no creo que tenga nada que ver

[@Mr.Maravilla]

@@Crasterius Que o quien es "TvNauta"?

[@devbsrtjkko]

​@@Mr.Maravilla el protagonista de "perfectos desconocidos".

[@ProxyBalls]

Van a usar esto para censurar mas los modelos…😢

[@ReneDRH]

Lo más seguro que si, pero también podrían usarlo para "des-censurar" los modelos actuales

[@everab1209]

​@@ReneDRH O para ponerles publicidad

[@ReneDRH]

@@everab1209 si quisieran ponerle publicidad ya lo habrían hecho, la mayoría de modelos de generación de imagen son de pago y los que no, como stable diffusion que lo puedes ejecutar en local, le pondrían los anuncios en la interfaz de usuario. Porque si fuese la misma IA la que te genera una imagen de "un astronauta en el espacio con una galaxia detrás (tomando Coca-Cola)" sin que tú le hayas pedido la Coca-Cola, pudiera no ser claro que la latita roja es un producto comercial y no siempre tendría la misma calidad o protagonismo, además no habría forma de saber cuánta publicidad se le hace a cada producto. Pero quién sabe, quizás después las empresas paguen dinero para tener más probabilidades de que la IA genere contenido que haga referencia a sus productos. Sería chistoso imaginar a chat gpt diciendote que vallas y te compres un peluche de Pikachu XD

[@GonzaloCobos]

Esto me recuerda al libro de Philip K. Dick "¿Sueñan los androides con ovejas eléctricas?" en el que se usa habitualmente el "órgano de emociones" (Penfield mood organ), que permite a los personajes ajustar sus estados de ánimo mediante la manipulación de un dial y un control de intensidad. El mundo de la IA va tan rápido, que ¿quién sabe lo cerca que estamos de eso?

[@albertoroman92]

El análisis de la IA para entender otra red neuronal me recuerda mucho a la escena de la película "Transcendence" en la que el Dr. Will Caster conecta varios sensores a su cerebro y procede a decir una serie de palabras/frases para transferir su consciencia a una máquina ❤

[@alfonsolopez1605]

el siguiente paso es ese, fusión máquina-cerebro. un salto evolutivo imparable

[@agnosticoparatodo]

Ayer esperaba el vídeo jajajajaja. Hubo muchos cambios en IA estas semanas.

[@ElInventor]

Solo espero que ese control lo tengamos nosotros, y no el gobierno.

[@Crasterius]

El gobierno sigue como en la edad media. Tu tranquilo.

[@ElInventor]

@@Crasterius ¿Recuerdas cuando Google no permitía que su IA hiciera blancos, y hacía nazis negros? Imagina una IA que de esta manera detecte las cosas que al gobierno no le interesan, como en China.

[@DanielSanchez_col]

interesante, saludos desde Bogotá

[@greenyngchannel855]

Excelente Carlos. He tratado de explorar como funciona internamente los modelos, mi perfil nacido y crecido dentro del desarrollo instructivo me fuerza a tratar de entender de buscar el como,sin lugar el trabajo de antropic nos lleva a ello y tu video que lo bordas, que haces que sea entendible conceptos y tecnologías complejas ayudan mucho en esa labor , gracias !!

[@PabloSanchez-ih2ko]

Que ilusion que hayas hecho un vídeo de esto! Yo estoy haciendo mi tesis de este tema y es súper interesante 😊

[@conduccion-eficiente]

¡Gracias!

[@ianholing]

Buen vídeo Carlos! Más como este :)

[@GabrielAndresAlzate]

Muy buen video Carlos. Gracias por compartir.

[@prebuf]

Esto será el primer paso para analizar cerebros humanos y si se usa correctamente, poder eliminar traumas o comportamiento no deseado en las personas, digamos que en segundos en lugar de ir a un tratamiento psicológico durante años.

[@test124]

Na, jamás pasará eso jaja

[@Raulikien]

Literal, lavado de mente lol

[@sergioT121]

Sale mk ultra 2

[@devbsrtjkko]

Wow lo que la cia le gustaria oir .

[@Jonajj]

Totalmente. Aunque los que tienen el ego inflado creen que el cerebro humano es inigualable y "mágico", pero la IA cada vez nos va a quitar esa idea.

[@urucolo]

Gracias Carlos

[@fx.minecraftgamer2370]

Ese micro entrando en escena...👌

[@rdaniel2p]

Excelentemente explicado!

[@iSolesArt]

Qué máquina!!!! GRACIAS

[@SebastianCompagnino]

excelente info, gracias como siempre

[@microsherpa]

Buen vídeo, muchas gracias

[@ppgf]

Genial y directo como siempre Carlos! un abrazo!

[@SpOoLk2]

Se echaba de menos estos videos.😊 gran trabajo

[@antoniomadrid7870]

Fascinate este vídeo. Esta técnica podría ser poderosísima, tanto para limitar ciertas respuestas como para dar respuestas super orientadas. Creo que sería muy acertado llamar a esta técnica "inception", ya que le metes una idea a la IA y ya no puede salir de ahí 😂

[@jackgaleras]

Saludos y gracias por el video

[@mariorubio9809]

Increíble el vídeo. Genial.

[@box1702]

Re interesante!!!!

[@universemaps]

Muy buen video, me da esperanzas... gracias!

[@josuequiros1170]

Excelente Carlos, otra gran obra maestra de explicabilidad sobre explicabilidad 👏🏻😆

[@sammash]

Qué Interesante, Bravo por tus vídeos, siempre tan bien explicados y montados.

[@Lv7-L30N]

muy bueno, gracias

[@ortencen]

gran video!! 😮

[@jackeldestripat]

Gracias Dot eres el mejor. Este paper no lo entendía del todo ahora ya si 😊

[@francolosasso6228]

Muy bueno

[@fernandohidalg0]

@DotCSV excelente como siempre. Sin duda la mejor explicación en castellano, sobre esta prometedora investigación de Anthropic AI 💯 🙌 👏👏👏👏

[@cristianpadron853]

Ya extrañaba videos así! :D

[@eldermungado7123]

fascinante

[@SonGoku-pc7jl]

buenisimo el video :D muchas gracias Carlos! Que explicación más buena todo en general y en especial lo de explicar el autoencoder con la luz tema bonito jeje

[@armelbrizuelarodriguez]

Excelente video ❤❤❤❤❤

[@cchavarria]

Enhorabuena Carlos! Haces un muy buen trabajo de divulgación. Sigue con ello❤

[@reggietkatter]

Tremendo vídeo señor. Gracias por la buena información y la clase magistral en divulgación científica.

[@lordsinber5273]

Que excelente video. Apenas voy por el 20:03 pero se me ocurre utilizar esta técnica de obsesión artificial para poder usar modelos dedicados a una tarea sin tener que hacer un fine-turing al modelo. ¿Quieres un modelo bueno en debug?, pues maximiza las activaciones encargadas de hacer debug.

[@IgneousGorilla]

Tal cual

[@mariojuniortorresperez7837]

Suscrito. Mucha información valiosa en tu canal

[@anahenriquezorrego8788]

Que buen video 🙌

[@fernandochavez4364]

Cómo me encantan tus videos, me hacen a no parar de aprender, porque haces que me motive a seguir.

[@hersap]

Uff tremendo video, muchas gracias por tu esfuerzo para explicar estos temas !!!

[@juancarloshoyosp]

Que bueno verlo, pense que KZbin no me estaba recomendando su canal! 😊😊😊

[@Equinoxio]

🤣JAJA y no te megas con esa IA porque te tira un 🌉puente por la cabeza... 🤔Especial cuidado cuando comiencen a materializar lo que piensan!

[@hugo8729]

hahahaha

[@jeremyg.]

Esto puede ser muy util en el tema de los Mixture of experts, potencias mucho un solo sector con las neuronas especificas de cada tarea que quieres, ahorrando muchos recursos de procesamiento y tiempo con el plus de que se sesga a cumplir la tarea que le pidas más acorde con sus neuronas.

[@newzord]

Inteligencia Artificial aliñada con un poco de humor!!! Gracias @DotCSV

[@WMouze]

Increible.

[@oe4038]

Pedazo de vídeo! Bueno, igual que siempre. Pero hoy lo he disfrutado al extremo, por alguna razón.

[@RR-lw8en]

Que interesante 🤔, se parece mucho a la obsesión 😵‍💫 o a la focalización 🧐del pensamiento.... muy análogo al comportamiento psicologico humano, aunque me da la impresión que en el caso humano hay una componente de retroalimentación 🔁, que en casos extremos, puede llevar a cosas como la ideacion suicida con la obsesión con pensamientos negativos ( autodestrucción ) ☠o la genealidad en el caso de la focalizacion con un tema 💡

[@peperepepepe]

que buenos vídeos haces cuando quieres!

[@inakiurruzuno1886]

Interesantísimo... Y muy divertido! Jajaja, muchas risas con el puente

[@yoyea2807]

Qué bueno

[@VolkerT00]

Ahora que hagan los modelos de IA´s como los del juego Portal, el obsesionado con el espacio, el que tiene miedo, el que es inseguro, y asi, hasta crear a GLaDOS

[@destroRT]

Me encanta este puente, me recuerda a mi infancia cuando fui a san francisco y las vistas eran preciosas, se podía ver a lo lejos una hermosa construcción naranja! like like like

[@alfonsolopez1605]

esto es como escudriñar el funcionamiento del cerebro humano y explicar el surgimiento de la conciencia, ese ente separado del cuerpo pero que influye a la hora de ejecutar las ideas.... ummm superinteresante! Alma-cuerpo vs AI-hardware increíble vídeo... muchas gracias y a seguir

[@aminadabcruz]

Justamente en eso pensé también, no sabemos todavía como surge la consciencia y ya andan buscando lo mismo en sistemas tecnológicos

[@alfonsolopez1605]

lo de sentirse el puente Golden Gate se podría extrapolar a una neurosis, jeje

[@alfonsolopez1605]

o un simple trauma! ;-)

[@ElenaMartínLuque]

Carlos, como siempre, tendiendo puentes entre nosotros y los avances en IA.

[@CatGhostly]

Excelente video, cada vez la IA avanza más y tus videos me ayudan mucho a entender como avanza todo este mundo

[@lucianoperez7640]

Hooo me voló la cabeza!

[@aguzitopy]

20:25 Carlos tienes el prompt de ese video? Me lo puedes pasar? Saludos

[@bebeperrunocanino2337]

Interesante

[@pabloveracano7961]

Vídeo 10/10

[@laprofekaren]

Eres lo más

[@schcriher]

24:09 No no, han tendido *UN* puente 🥁

[@anyeos]

Podemos hacer eso en "casa"? digo potenciar las neuronas por ejemplo en el modelo LLaMa. Estaría genial obsesionar a la IA con un tema o justamente ajustarla a que corrija código o cosas como esas.

[@gentoo_linux]

Esto ayuda a comprender la “Empatía”

[@jeffrygamalieltenesrivas3782]

Este canal debería de tener millones de seguidores de lo mejor de KZbin

[@alejandrocaballero2779]

Imagina tener ese control sobre las IAs mientras éstas se están entrenando. Pasaríamos de entrenar modelos de lenguaje durante meses a tener una IA que ofrezca resultados sobresalientes en minutos

[@sebasnolascop]

Esto me recuerda cuando en la película Yo Robot, con Will Smith, los robots cambian de "buenos" a "malos" como si se le cambiara un parámetro, y cambian el comportamiento completamente 😶‍🌫️🤖

[@jesusgilbert9944]

Gracias puente de San Francisco por subir éste maravilloso video! ❤

[@piedraangular9190]

La frase lapidaria de Claude lanzada de forma subliminal 19:19😅 😮

[@mono891031]

Tocaron los Talentos y obsesiónes y hasta la locura en los modelos de IA

[@alejandroggzz8833]

Hace poco leí que en el futuro iba suceder esto con nuestra psicología , a alguien muy neurótico y preocupado se sometía a mapeo cerebral y cuando se detectaban las neuronas que codificaban este concepto se disminuia su poder de activacion . Lo que antes tomaba meses de terapia ahora se realizaba en minutos , que tengo un miedo muy grande , no problema , que no soy bueno para el ajedrez ,etc.

[@Eri3t5co]

un descubrimiento muy intetesante. Siempre hay q pensar en los malintencionados. Abre una puerta peligrosa tb. Aunq supongo q aun quedara tiempo para poder controlar modelos tipo LLM en este sentido. Pero no estoy seguro.

[@franciscogonzalez1879]

Me ha gustado mucho el video del golden gate, sigue así

[@dobleuber]

Ame el cameo de Javi!

[@danielo.k3]

24:02 El mejor resumen de qué esperar de DotCSV

[@migdrp]

Tenía muchos videos que no me enseñabas algo que no había visto en otro lado hasta hoy

[@GermanLanfranco]

Carlos, ¿qué neuronas te potenciaron para que logres obras tan buenas como la de este video? Tremendo legado, tu canal, de un valor educativo superlativo. Muchas gracias.

[@Javierdecaracas]

me encantan tus bideos de verdad te felicito mucho hermano desde aquí de venezuela

[@juanpavezquijada8717]

Interesante, podría ser un metodo de decodificar algunas funciones desarrolladas por los modelos y así generar más conocimiento.

[@fperezblan]

Muy buen video! Tan bueno como el puente Golden Gate. Saludos desde Golden Gate Bridge.

[@lunardium]

Excelente vídeo pero no tan interesante como el El Puente Golden Gate, este es un puente colgante situado en California, Estados Unidos, que une la península de San Francisco por el norte con el sur del condado de Marin, cerca de Sausalito. Golden Gate es también el nombre del estrecho en el cual el puente está construido, y recibe su nombre del estrecho en Constantinopla, llamado también la Puerta Dorada, ya que comunicaba Europa con Asia.

[@chambilucanavidal4514]

Mientras tanto Open AI: _Esta información vale millones_

[@JuanSuarez-ei7hv]

En mecanica cuantica existe la superposicion y de pronto este tipo de superposicion podria tener una conexion con la superposicion cuantica.

[@yosmelvd7246]

Al ver leído tengo una comprensión así que cuando al subir activar o disminuirlo, el suceso lo llamare ramificación de información en cadena, según como se ponga sera esa ramificación distinta es como si fuera muchos caminos diversos y se escoge al poner en posición sea subir o bajar cual emplear lo cual dará la salida, entonces como son cosas determinadas en esa cadena, si en ella se quisiera eliminar un sesgo lo cual se revisa esas ramificaciones distintas que se presentó el sesgo y para quitarlo sería desactivando esa información o si la información es compuesta ya es que tendría que crear una conexión lo llamare eslabón que es una conexión con otra neurona, pero en esa poniendo una marcación y un salto para que no siga esas otra y regrese a la que se está trabajando, además también se podría emplear si se quiere algo aunque ello no complicado un proceso de división de extraer las ramificaciones de cadena en las neuronas poner por separo revisar o para determinar distinto cosas así lograr optimizar el orden o también se podría ponerle otras neuronas apartes mayor cantidad de ellas y una función que de las existentes crear de estas nuevas ramificaciones ya estaríamos hablando que sea capaz de imaginar, lo cual el crear una conciencia y almacene lo que comprenda pero ya eso sería adelantarse, pero de que se puede simular la conciencia se puede y pase cosas sobre la conciencia porque sería en parte funcionando ya que necesitaría voluntad y saber.