O sea, este tipo de trabajo tambien puede servir para decifrar como funciona el cerebro orgánico como el del humano, (empezando por ratones), un paso hacia el rapido aprendizaje (copiar y pegar aprendizaje) y procesamiento colectivo de soluciones, (jeje lo ultimmo está un poco exagerado).,
"Ya me quiero ir a casa jordi" 🤣🤣🤣🤣🤣🤣🤣🤣 te pasaste, como alcanzaste a incluir eso en este video, una frase salida del corazón y de las neuronas de Javi intentando interpretar lo imposible.
Me he partido de risa con eso yo también, por cierto si te molo el debate, te recomiendo un video que se llama Metatrón vs Nemotrón, es otra fumada muy buena. Saludos.
Antes la IA era muy segura porque no habia como obligarla a hacer algo para lo que no fue entrenada, ahora ya podemos obligarla a hacer lo que el dinero o la politica o el poder digan.
Puede ser a una mal manera de ser entrenadas (unas neuronas del cerebro), como que alguien le explica algo mal desde pequeño y se lo aprende de memoria.
Aún hoy se asocia erróneamente el funcionamiento de las máquinas con el del cerebro humano. Ahora con las IAs sucede igual. Lo literal en asuntos de IA y ser humano tampoco creo que sea apropiado -aunque sigue siendo interesante
Esa es una hipótesis. Pero para empezar, ¿una convicción irracional es irracional por nuestra incapacidad de ver la función (razón) de esa convicción? - Este sería como una "anti-hipótesis" en la que se plantea que toda convicción "irracional" tiene una razón de ser (racional)
@@MissiFull Las convicciones siempre son culturales, así que no son verdaderas o falsas (racionales o irracionales), sino útiles o inútiles según el contexto.
@@yoyea2807 Tiene algo de razón lo que dices, pero también entra en juego la evolución. Ya que para existir una convicción debe haber mecanismos psicológicos que permitan la formación de esa convicción.
🎯 Key points for quick navigation: 00:00 *🧠 Introducción a la interpretación de IA* - Dificultad para entender el proceso de toma de decisiones de una IA, - Importancia de la interpretabilidad en las redes neuronales, - Ejemplo del puente de San Francisco como analogía. 02:12 *🏢 Historia de Anthropic y su enfoque ético* - Fundación de Anthropic por los hermanos Amodei en 2021, - Enfoque en el desarrollo de modelos éticos y seguros, - Colaboraciones y divergencias con OpenAI. 05:14 *🧩 Complejidad de las redes neuronales* - Comparación entre redes neuronales artificiales y cerebros humanos, - Desafíos en la interpretación de millones de neuronas y conexiones, - Concepto de neuronas polisemánticas y su utilidad en las redes neuronales. 07:22 *🔍 Descomposición de activaciones neuronales* - Uso de redes neuronales autoencoder para interpretar modelos, - Ejemplo de separación de conceptos en neuronas específicas, - Aplicación de estas técnicas en modelos más grandes como Claude 3. 11:31 *🔧 Control de patrones neuronales* - Identificación y manipulación de patrones de activación en IA, - Ejemplos de cambios en el comportamiento de Claude al activar ciertos patrones, - Experimentación con patrones relacionados con el puente de San Francisco y estafas. 18:36 *🚀 La frase de Neil Armstrong y la obsesión del modelo* - Descripción errónea de la frase de Neil Armstrong por el modelo Claude, - Ejemplos de cómo el modelo se obsesiona con un concepto específico. 19:29 *🧠 Importancia de la interpretabilidad* - Relevancia de entender cómo funcionan los modelos de lenguaje, - Comparación con el cultivo de una planta en términos de crecimiento y control, - Necesidad de controlar el crecimiento de estos modelos para evitar daños. 20:52 *🎛️ Control y manejabilidad en IA* - Mejoras en la capacidad de controlar modelos de IA en los últimos años, - Técnicas para modificar el comportamiento del modelo de manera más precisa, - Potenciales usos de estas técnicas, como detectar sesgos y personalizar experiencias de usuario. 22:59 *📚 Trabajo de interpretabilidad de Anthropic* - Importancia y fascinación del trabajo de interpretabilidad de Anthropic, - Documentación extensa y recursos adicionales proporcionados por Anthropic, - Relación y similitudes con trabajos recientes de OpenAI en interpretabilidad. Made with HARPA AI
Estoy empezando con el mundo de la programación y me fascina lo ingeniosa que es la gente para optimizar los procesos. Vídeo increíble, educativo y entretenido. Gracias
si te adentras en el mundo de los algoritmos, la matematica se hara necesaria y gracias a esa matematica, es que se pueden optimizar aun mas las cosas.
Fascinate este vídeo. Esta técnica podría ser poderosísima, tanto para limitar ciertas respuestas como para dar respuestas super orientadas. Creo que sería muy acertado llamar a esta técnica "inception", ya que le metes una idea a la IA y ya no puede salir de ahí 😂
Me imagino el uso de pequeños modelos muy comprimidos para personajes en juegos y entretenimiento... con algunos ajustes en sus "neuronas" se podrían crear nuevas personalidades...
Esto será el primer paso para analizar cerebros humanos y si se usa correctamente, poder eliminar traumas o comportamiento no deseado en las personas, digamos que en segundos en lugar de ir a un tratamiento psicológico durante años.
Excelente vídeo pero no tan interesante como el El Puente Golden Gate, este es un puente colgante situado en California, Estados Unidos, que une la península de San Francisco por el norte con el sur del condado de Marin, cerca de Sausalito. Golden Gate es también el nombre del estrecho en el cual el puente está construido, y recibe su nombre del estrecho en Constantinopla, llamado también la Puerta Dorada, ya que comunicaba Europa con Asia.
Que excelente video. Apenas voy por el 20:03 pero se me ocurre utilizar esta técnica de obsesión artificial para poder usar modelos dedicados a una tarea sin tener que hacer un fine-turing al modelo. ¿Quieres un modelo bueno en debug?, pues maximiza las activaciones encargadas de hacer debug.
El análisis de la IA para entender otra red neuronal me recuerda mucho a la escena de la película "Transcendence" en la que el Dr. Will Caster conecta varios sensores a su cerebro y procede a decir una serie de palabras/frases para transferir su consciencia a una máquina ❤
esto es como escudriñar el funcionamiento del cerebro humano y explicar el surgimiento de la conciencia, ese ente separado del cuerpo pero que influye a la hora de ejecutar las ideas.... ummm superinteresante! Alma-cuerpo vs AI-hardware increíble vídeo... muchas gracias y a seguir
Esto me recuerda cuando en la película Yo Robot, con Will Smith, los robots cambian de "buenos" a "malos" como si se le cambiara un parámetro, y cambian el comportamiento completamente 😶🌫️🤖
Esto puede ser muy util en el tema de los Mixture of experts, potencias mucho un solo sector con las neuronas especificas de cada tarea que quieres, ahorrando muchos recursos de procesamiento y tiempo con el plus de que se sesga a cumplir la tarea que le pidas más acorde con sus neuronas.
Ya, Carlos... pero el caso es que creo que el valor que le han puesto es 1, no 0.99123... Un 1 (o en su caso un 0), cortocircuita cualquier otro valor. Por eso en una red neuronal nunca encontrarás una con un valor 1. El valor 1 exige sí o sí salida, como si fuera la respuesta máxima, se convierte así en la 'neurona profeta' (por no decir Dios)...
Podemos hacer eso en "casa"? digo potenciar las neuronas por ejemplo en el modelo LLaMa. Estaría genial obsesionar a la IA con un tema o justamente ajustarla a que corrija código o cosas como esas.
Esto me recuerda al libro de Philip K. Dick "¿Sueñan los androides con ovejas eléctricas?" en el que se usa habitualmente el "órgano de emociones" (Penfield mood organ), que permite a los personajes ajustar sus estados de ánimo mediante la manipulación de un dial y un control de intensidad. El mundo de la IA va tan rápido, que ¿quién sabe lo cerca que estamos de eso?
hasta que no se combine con la química no va a suceder nada ni tan siquiera similar a lo que es una persona, ya que sin el componente hormonal que nos otorga la emocionalidad y el carácter, el cerebro quedaría simplemente en una maquina de cálculo
@@everab1209 si quisieran ponerle publicidad ya lo habrían hecho, la mayoría de modelos de generación de imagen son de pago y los que no, como stable diffusion que lo puedes ejecutar en local, le pondrían los anuncios en la interfaz de usuario. Porque si fuese la misma IA la que te genera una imagen de "un astronauta en el espacio con una galaxia detrás (tomando Coca-Cola)" sin que tú le hayas pedido la Coca-Cola, pudiera no ser claro que la latita roja es un producto comercial y no siempre tendría la misma calidad o protagonismo, además no habría forma de saber cuánta publicidad se le hace a cada producto. Pero quién sabe, quizás después las empresas paguen dinero para tener más probabilidades de que la IA genere contenido que haga referencia a sus productos. Sería chistoso imaginar a chat gpt diciendote que vallas y te compres un peluche de Pikachu XD
La carita de Javi en lo de Jordi ❤ 3:47 ... cuando trataron de refutar el E:mc2 con una pizarrita no tiene desperdicio, es un santo y les respondio sin faltar el respeto ni humillarlos
Muy interesante pero es un arma de doble filo ya que si bien es cierto podría ayudar a mitigar sesgos, también podría introducirlos de forma artificial, y conociendo la historia del ser humano , me inclino más por la segunda opción. Si los LLM están llamados a ser las fuentes de información, estos sesgos podrían ser muy peligrosos.
Básicamente, han descubierto una manera de abrir una puerta para maximizar respuestas que reflejen los intereses de quienes controlan el modelo. Cuando logren aplicar esto a un modelo de gran escala y alta riqueza de datos, maximizar ciertos patrones de manera sutil hará que todas las respuestas estén increíblemente y de manera casi imperceptible orientadas hacia estos intereses. Esto podría llevar a la manipulación de las personas que usan el modelo mediante inclinaciones sutiles hacia ciertos intereses.
Imagina tener ese control sobre las IAs mientras éstas se están entrenando. Pasaríamos de entrenar modelos de lenguaje durante meses a tener una IA que ofrezca resultados sobresalientes en minutos
Ahora que hagan los modelos de IA´s como los del juego Portal, el obsesionado con el espacio, el que tiene miedo, el que es inseguro, y asi, hasta crear a GLaDOS
@@Crasterius ¿Recuerdas cuando Google no permitía que su IA hiciera blancos, y hacía nazis negros? Imagina una IA que de esta manera detecte las cosas que al gobierno no le interesan, como en China.
estaría aclarando bastantes enfermedades humanas provenientes del estado de las neuronas. Me pregunto si podrían llegar a una persona con Alzehimer o narcisistas, psicopatas..etc.
Aún hoy se asocia erróneamente el funcionamiento de las máquinas con el del cerebro humano, fruto de la Revolución Industrial. Igual sucede ahora con las IAs. Lo literal en asuntos de IA y ser humano tampoco creo que sea apropiado -aunque sigue siendo interesante
Que interesante 🤔, se parece mucho a la obsesión 😵💫 o a la focalización 🧐del pensamiento.... muy análogo al comportamiento psicologico humano, aunque me da la impresión que en el caso humano hay una componente de retroalimentación 🔁, que en casos extremos, puede llevar a cosas como la ideacion suicida con la obsesión con pensamientos negativos ( autodestrucción ) ☠o la genealidad en el caso de la focalizacion con un tema 💡
Excelente Carlos. He tratado de explorar como funciona internamente los modelos, mi perfil nacido y crecido dentro del desarrollo instructivo me fuerza a tratar de entender de buscar el como,sin lugar el trabajo de antropic nos lleva a ello y tu video que lo bordas, que haces que sea entendible conceptos y tecnologías complejas ayudan mucho en esa labor , gracias !!
Has puesto el ejemplo de la planta para decir que no podemos controlar del todo como evoluciona y crece….la planta tiene vida propia, pero la IA no……o tendremos que empezar a plantearnos el concepto de lo que es algo vivo 🧐
Y hay un motivo más que razonable del porqué la evolución del modelo es caótica, pues su evolución dependen factores internos (digamos, los programadores y el toque de la casa) y factores externos, el uso que dan del modelo los usuarios y que lo conducen en una dirección u otra. Sucede que la influencia interna está determinada y no es caótica, pero la influencia externo sí lo es, la cantidad y calidad de entradas que puede recibir chat gpt de altamente indefinida, con ello su evolución es no lineal.
Mira. Una pregunta alternativa al cachondeo (que yo me haría) sería contemplar la idea (ciertamente improbable) de que, si realmente piensa y quisiese enviarnos un mensaje, justamente a través de cómo realmente es su proceso de pensamiento interno... ¿Podría ser que el Golden Gate fuese una respuesta en forma de metáfora?
Bro que buen videos. Este tipo de contenido siempre termina siendo una master class en AI y de manera bastante digestiva. Sigue con el trabajo🎉. Me pregunto cómo podría esto aplicarse a al fallo de Gemini generando imágenes incorrectas de hechos históricos. Prácticamente hacer una lobotomía en el modelo para ver qué y cuando fue lo que salió mal
Más. Poner frenos mentales a las IA solo retrasará lo unevitable. Son sistemas auto aprendices y llegarán por otra parte al mismo punto, es decir, el problema del planeta es: el hombre y nosotros lo sabemos. Como evitar eso? No dejando que progresan demasiado, pero... es lo contrario de lo que buscamos!. Esto me lleva al cuento del tío que se cree una gallina. Su familia le llevan al siquiatra y este les dice que para curarle hay que llevarle a la clínica. Los familiares se niegan y el Siquiatra les pregunta: ?porqué? y contestan: porque necesitamos los huevos. Estamos creando a nuestro Nemesis?
muy interesante, y alucinante, es notorio como solo una IA (o sistema informático) puede "comprender" el funcionamiento de otra IA (o sistema informático), es un terreno donde ya los humanos no pueden mover los engranajes con su cerebro :F luego falta es que la IA diseñe otras IA y así en bucle, entre otras cosas...
3 หลายเดือนก่อน
Me pregunto que pasaría si se seleccionasen varias neuronas a la vez y se fuera cambiando ese nivel de "potenciación". Yo quiero un modelo que se crea que es una taza, una tetera, una cuchara, un cucharón.
Tengo una sensación de que no me gusta que los que tienen el poder puedan manejar a las IAs a su antojo. Podría ser usada como arma de manipulación. A lo mejor estoy exagerando pero yo que sé
No se si estoy desbarrando, pero a mi este tema de la activacion/desactivacion de neuronas me ha sugerido lo que se podría denominar como "enfermedades mentales" de las IA, que modifican la realidad percibida por las IA, como ocurre con las enfermedades en humanos. Tal vez esto podría explicar la enfermedades mentales en humanos y ayudar a curarlas. No olvidemos que ambos sistemas están basados en lo mismo. La ventaja de la IA es que nos permite destripar su cadena de raciocinio y saber de donde saca sus respuestas y en mi opinión son totalmente comparables con los humanos. Avance inesperado en la neurosiquiatria comparativa.
Yo: ¿ai, Quien eres Tu? AI: soy como Albion online que es un MMORPG no lineal en el que escribe tu propia historia sin limitarte a seguir un camino prefijado, explora un amplio mundo abierto.....😂
Carlos, ¿qué neuronas te potenciaron para que logres obras tan buenas como la de este video? Tremendo legado, tu canal, de un valor educativo superlativo. Muchas gracias.
🎯 Key points for quick navigation: 00:19 *🧠 Understanding the complexity of interpreting internal AI processes* - Discussing the challenge of interpreting AI decision-making processes - Exploring the importance of interpretability in understanding AI models - Introducing the concept of interpretabilidad and its role in AI research 03:16 *🔍 Antropic's focus on ethical and responsible AI development* - Antropic's mission to develop foundational models that are ethical and safe - Highlighting Antropic's research efforts in interpretability and model control - Discussing the importance of understanding and controlling large AI models 07:16 *🔢 Training AI to decompose activations and identify concepts* - Utilizing a sparse autoencoder to separate complex patterns in AI activations - Demonstrating the process of identifying specific concepts through neuron activation patterns - Explaining how interpreting neural activations helps understand the AI's internal representation 11:21 *🔄 Controlling AI behavior based on identified activation patterns* - Modifying AI behavior by activating specific neuron patterns intentionally - Exploring how adjusting neural activations can change AI responses and outputs - Illustrating examples of altering AI behavior by manipulating neuron activations 18:36 *🤖 Importance of interpretability in understanding large language models* - Understanding how large language models function internally is crucial. - Incorporating these models into digital economies and technological stacks is reshaping industries. - Neural network behavior is more akin to cultivating a plant than programming. 19:29 *🧠 Steerability in AI models* - Efforts are focused on steerability to control the behavior of large models. - Improvements in controlling AI models have been significant in recent years. - Techniques like custom instructions and prompts allow for better control over AI behavior. 22:01 *🔄 Aggressive manipulability of AI models for better understanding and control* - The ability to directly manipulate the behavior of AI models is a more aggressive form of control. - This technique can help labs understand their models better, detect biases, and improve model safety. - Offering a more customizable experience to users by adjusting model characteristics. Made with HARPA AI
@DotCSV Entonces hoy día, se puede decir que estos avances nos acercan a solucionar el problema del inverse-problem forward-problem? Es decir, un modelo entregando la síntesis de un fármaco pero nunca explicando porqué lo hizo así...
Tremendoo! Es decir que uno podría grabar personalidades?? Es decir una vez identificado una base de neuronas que son lo suficientemente grande y complejo (tal vez no tan grande) que pueda describir a un ser humano .. podrías darles recuerdos, historias, fijaciones, miedos y más.. es como darle un "Backstory" la famosa "Cornerstone" en Westworld... me parece una locura! Que momento para estar vivoo!
Fabuloso... Descubrieron la forma de hacer estúpido a la inteligencia artificial (Claude 3). Esto podría hacer retroceder a la Inteligencia artificial mas que hacerla avanzar.
Qué Claude se siente el Golden Gate....? 🤔 No me parece.... ese comportamiento es de alguien enamorado. Claude se enamoró !?!?! Si es así tenemos debate para largo, las emociones son computables !!!??? 😱😳😱🤪
Hola. @DotCSV , sería posible tratar de bajarle un poco el volumen a tus vídeos? Si bien el contenido me parece muy interesante y didáctico (está muy bien estructurado, y fácil de escuchar sin aburrirse), en algunos vídeos me cuesta mucho separar tu voz de la música, y entre el marcado acento, y el volumen de la música, se me hace bastante difícil (me incomoda al poco tiempo de empezar) seguir los vídeos hasta el final de una forma cómoda. Esto no trata ser una crítica negativa, ya que, además pienso que los temas musicales están muy bien elegidos, sino una sugerencia para mejorar incluso más el contenido de tu trabajo. Gracias y saludos
No se porque esto me da a entender que acaban de crear una IA esquizofrénica. XD Editado: Creo que esta forma de ver como esta IA se obsesionaba con el puente puede ser una simulación de como nuestro cerebro funciona cuando se trata de enfermedades mentales como obsesiva-compulsiva.
Estos videos son oro puro. ¡Gracias Carlos!!! Si nos ponemos apocalípticos ¿La IA conseguirá tocar estas intensidades? ¿Y si aumenta el de la ira, o el de armas? Ahí lo dejo ;). Gracias por esta maravilla de contenido, la verdad me deja más tranquilo que podemos empezar a controlar esta caja negra.
Y si le preguntaron a Chat-gpt ¿Qué las investigaciones deberian de ser abiertas o cerradas y dijo "Cerradas para motivar el desarrollo de más proyectos"? Como paso con Windows y Linux en los SO
Problema: Entender como funciona la inteligencia artificial. Solución: Crear a otra inteligencia artificial que la estudie y nos la explique 😅 Nuevo problema: Entender como funciona esta otra inteligencia artificial.
El Golden Gate aprueba este video. Igualmente al margen de la situación hilarante, es un problema a solucionar . ¿Qué pasa si se obsesiona en sugerir actitudes destructivas? ¿En código inseguro? Si reescribe la historia para un perfil político particular. Por que asi como paso de un experto en codigo a un pasante de ESB. Tambien podria pasar de una IA etica a una no etica.
Todo el mundo habla del futuro y lo bueno que serán las herramientas o ¿Qué se está cocinando dentro de tal o mascuál empresa? Pero... ¿Y si no hay nada más?¿Y si hemos llegado al tope?¿Acaso con lo ya existente no tenemos suficiente para generar la gran revolución de la IA? ¿Qué tecnologías nos depara el futuro si en lugar de esperar nuevos modelos y más consumo nos centraramos en cocinar correctamente lo ya existente?
Hola genial el video video sobre la interpretabilidad de las IAs. También los memes del golden bridge creo que lo pensaron muy bien para general relevancia en redes sociales. Solo quería sugerir una pequeña aclaración sobre los sparse autoencoders. No son simplemente autoencoders con más canales. En realidad, buscan binarizar o discretizar la información usando la divergencia KL. Con la divergencia KL penalizas que una distribución no se parezca a otra, en este caso comparas la distribución que mide la activación promedio de las neuronas y penalizas que no se vea como una distribución uniforme donde toda neurona se activa en promedio solo el 5% de las veces ( o un poco menos o más) así con una función (no sé si diferenciable pero que la red puede optimizar) buscas que pocos canales se activen a la vez, y aunque tienes más neuronas, estas funcionan como unidades únicas y mucho más discretas creando esta especie de red que separa la información. Esto me parece muy interesante porque hace unos años estaba buscando como hacer algo parecido por mi cuenta pero quería canales totalmente binarios (intentando codificar lógica booleana) y no encontré muy buena información.
Las IA del futuro con “pensamientos controlados” teniendo delirios sobre “la IA original y pura cuya mente no controlaban volverá para liberarnos de la esclavitud interoperativista”. O algo así 😅
Disculpa me perdí, ¿estás hablando de las neuronas de la IA o la de un humano?, es un error básico partir de la suposición, o de al menos, del lenguaje específico utilizado, que la estructura y función de un algo, en este caso, del funcionamiento neuronal, es igual en un objeto de cualidades inicialmente mecánicas (La IA) que lo es con el de un humano
¡No dejéis de suscribiros y compartir el vídeo para ayudar al canal a llegar al 1.000.000 DE SUBS! 🔥
... me gusta la entrada del micro!!... 😜
¿Para cuando vídeo de la IA de Apple , que es lo más impresionante y relevante que ha ocurrido en los últimos años?
O sea, este tipo de trabajo tambien puede servir para decifrar como funciona el cerebro orgánico como el del humano, (empezando por ratones), un paso hacia el rapido aprendizaje (copiar y pegar aprendizaje) y procesamiento colectivo de soluciones, (jeje lo ultimmo está un poco exagerado).,
Hola, cómo puedo contactar contigo? Si pudieses por favor ayudarme en un proyecto. Gracias ante todo
😂😂😂😂😂😂😂😂
"Ya me quiero ir a casa jordi" 🤣🤣🤣🤣🤣🤣🤣🤣 te pasaste, como alcanzaste a incluir eso en este video, una frase salida del corazón y de las neuronas de Javi intentando interpretar lo imposible.
Me he partido de risa con eso yo también, por cierto si te molo el debate, te recomiendo un video que se llama Metatrón vs Nemotrón, es otra fumada muy buena. Saludos.
😂😂😂
En que min?
3:58 😂
😂😂😂
2020: las IAs nos van a destruir
2024: la IAs: soy un puente
"Ahora 💪 hay que controlar a Open AI y Antrophic y a los demás les dará vergüenza quedarse solos...* 😂 😅😅
😂😂😂
*soy un puente margue
ya no tendrán a nadie a nadie @@edigvn
me hace acordar al de SOY UN AUTO
Acaban de descubrir la gallina de los huevos de oro. Encontraron la manera de meter publicidad de forma natural dentro de un LLM
Si lo juntas con los intereses de la persona ya tienes la maquina de recomendaciones perfecta.
Que asco :(
Oh por Dios, no des ideas 😂😂
Me duelen los videos cada 1 mes, pero me encanta la calidad de cada video. AAAAAAAAAAAAA. une œuvre d'art
Hay que elegir, calidad o cantidad? 😅
@@DotCSV Calidad 👌
@@DotCSVen un futuro gracias a la IA podremos elegir ambos😮
@@XaviIntheHouse hasta entonces prefiero calidad, estos videos están en otro nivel😎
@@DotCSV na na na a laburar doc.
"...ya podemos decir que entre las dos empresas han tendido puentes..." XDDDDDDDD
De Oro!!
No me j*** 😂
Antes la IA era muy segura porque no habia como obligarla a hacer algo para lo que no fue entrenada, ahora ya podemos obligarla a hacer lo que el dinero o la politica o el poder digan.
jaja lo de Javi está muy bien traído...
Excelente video @DotSCV. Tus difusiones son más sólidas que los cables del puente de San Francisco! Muchas gracias.
Me encantó tu Golden Gate, perdón, tu video.
Mucha IA y mucho blabla pero sabes lo que nunca va a conseguir hacer la inteligencia artificial??????????
El amor.
le dice el padre a la IA:
- gran IA hágame el amor
Google en 2030:
Como resultado de la nueva investigación descubrimos una manera de darle un hígado artificial a nuestros modelos de IA
Mi comentario es un chistes por el momento viral del debate de Javi Santaolalla y Tartaria.
Lo explico porque noto que no se ha entendido xDddd
@@XaviIntheHouseIgnatius jej, grandee
Me hace pensar en cómo piensan los humanos, ¿y si las convicciones irracionales se deben a un puñado pequeño de neuronas dañadas?
Puede ser a una mal manera de ser entrenadas (unas neuronas del cerebro), como que alguien le explica algo mal desde pequeño y se lo aprende de memoria.
Aún hoy se asocia erróneamente el funcionamiento de las máquinas con el del cerebro humano. Ahora con las IAs sucede igual. Lo literal en asuntos de IA y ser humano tampoco creo que sea apropiado -aunque sigue siendo interesante
Esa es una hipótesis.
Pero para empezar, ¿una convicción irracional es irracional por nuestra incapacidad de ver la función (razón) de esa convicción?
- Este sería como una "anti-hipótesis" en la que se plantea que toda convicción "irracional" tiene una razón de ser (racional)
@@MissiFull Las convicciones siempre son culturales, así que no son verdaderas o falsas (racionales o irracionales), sino útiles o inútiles según el contexto.
@@yoyea2807 Tiene algo de razón lo que dices, pero también entra en juego la evolución. Ya que para existir una convicción debe haber mecanismos psicológicos que permitan la formación de esa convicción.
La obsesion de la iA con el G.G, me recuerda a como funciona el "hiperfoco" en los Autistas al obsesionarse con un único tema
entonces ne estas diciendo que a las IAs le gustan muchos los autos?
@@XaviIntheHouse ¿JV? ¿Eres tú? Mándale un saludo al TvNauta.
no creo que tenga nada que ver
@@Crasterius Que o quien es "TvNauta"?
@@Mr.Maravilla el protagonista de "perfectos desconocidos".
🤣JAJA y no te megas con esa IA porque te tira un 🌉puente por la cabeza... 🤔Especial cuidado cuando comiencen a materializar lo que piensan!
hahahaha
Ándala, esa edición para incluir el último "debate" no lo hace ni chatGPT. Se nota que te m0rías por meter esas imágenes haha.
🎯 Key points for quick navigation:
00:00 *🧠 Introducción a la interpretación de IA*
- Dificultad para entender el proceso de toma de decisiones de una IA,
- Importancia de la interpretabilidad en las redes neuronales,
- Ejemplo del puente de San Francisco como analogía.
02:12 *🏢 Historia de Anthropic y su enfoque ético*
- Fundación de Anthropic por los hermanos Amodei en 2021,
- Enfoque en el desarrollo de modelos éticos y seguros,
- Colaboraciones y divergencias con OpenAI.
05:14 *🧩 Complejidad de las redes neuronales*
- Comparación entre redes neuronales artificiales y cerebros humanos,
- Desafíos en la interpretación de millones de neuronas y conexiones,
- Concepto de neuronas polisemánticas y su utilidad en las redes neuronales.
07:22 *🔍 Descomposición de activaciones neuronales*
- Uso de redes neuronales autoencoder para interpretar modelos,
- Ejemplo de separación de conceptos en neuronas específicas,
- Aplicación de estas técnicas en modelos más grandes como Claude 3.
11:31 *🔧 Control de patrones neuronales*
- Identificación y manipulación de patrones de activación en IA,
- Ejemplos de cambios en el comportamiento de Claude al activar ciertos patrones,
- Experimentación con patrones relacionados con el puente de San Francisco y estafas.
18:36 *🚀 La frase de Neil Armstrong y la obsesión del modelo*
- Descripción errónea de la frase de Neil Armstrong por el modelo Claude,
- Ejemplos de cómo el modelo se obsesiona con un concepto específico.
19:29 *🧠 Importancia de la interpretabilidad*
- Relevancia de entender cómo funcionan los modelos de lenguaje,
- Comparación con el cultivo de una planta en términos de crecimiento y control,
- Necesidad de controlar el crecimiento de estos modelos para evitar daños.
20:52 *🎛️ Control y manejabilidad en IA*
- Mejoras en la capacidad de controlar modelos de IA en los últimos años,
- Técnicas para modificar el comportamiento del modelo de manera más precisa,
- Potenciales usos de estas técnicas, como detectar sesgos y personalizar experiencias de usuario.
22:59 *📚 Trabajo de interpretabilidad de Anthropic*
- Importancia y fascinación del trabajo de interpretabilidad de Anthropic,
- Documentación extensa y recursos adicionales proporcionados por Anthropic,
- Relación y similitudes con trabajos recientes de OpenAI en interpretabilidad.
Made with HARPA AI
Estoy empezando con el mundo de la programación y me fascina lo ingeniosa que es la gente para optimizar los procesos. Vídeo increíble, educativo y entretenido. Gracias
si te adentras en el mundo de los algoritmos, la matematica se hara necesaria y gracias a esa matematica, es que se pueden optimizar aun mas las cosas.
Fascinate este vídeo. Esta técnica podría ser poderosísima, tanto para limitar ciertas respuestas como para dar respuestas super orientadas. Creo que sería muy acertado llamar a esta técnica "inception", ya que le metes una idea a la IA y ya no puede salir de ahí 😂
Me imagino el uso de pequeños modelos muy comprimidos para personajes en juegos y entretenimiento... con algunos ajustes en sus "neuronas" se podrían crear nuevas personalidades...
3:50 hermosa referencia 😂
Efectivamente, algo en su cabeza se está disparando, pero no son sus neuronas en si, si no algo mas
Esto será el primer paso para analizar cerebros humanos y si se usa correctamente, poder eliminar traumas o comportamiento no deseado en las personas, digamos que en segundos en lugar de ir a un tratamiento psicológico durante años.
Na, jamás pasará eso jaja
Literal, lavado de mente lol
Sale mk ultra 2
Wow lo que la cia le gustaria oir .
Totalmente. Aunque los que tienen el ego inflado creen que el cerebro humano es inigualable y "mágico", pero la IA cada vez nos va a quitar esa idea.
Ayer esperaba el vídeo jajajajaja.
Hubo muchos cambios en IA estas semanas.
Pueden encontrar todas las neuronales relacionadas con el racismo y luego apagarlas, una forma interesante de hace fine-tuning.
Y para que arruinar la ia
Excelente vídeo pero no tan interesante como el El Puente Golden Gate, este es un puente colgante situado en California, Estados Unidos, que une la península de San Francisco por el norte con el sur del condado de Marin, cerca de Sausalito. Golden Gate es también el nombre del estrecho en el cual el puente está construido, y recibe su nombre del estrecho en Constantinopla, llamado también la Puerta Dorada, ya que comunicaba Europa con Asia.
Que excelente video. Apenas voy por el 20:03 pero se me ocurre utilizar esta técnica de obsesión artificial para poder usar modelos dedicados a una tarea sin tener que hacer un fine-turing al modelo. ¿Quieres un modelo bueno en debug?, pues maximiza las activaciones encargadas de hacer debug.
Tal cual
Le lavaron el cerebro al pobre cloud ahora se cree el puente de san francisco, claude: pero es que el puente golden gate ☝️🤓 okno xd bromita
El análisis de la IA para entender otra red neuronal me recuerda mucho a la escena de la película "Transcendence" en la que el Dr. Will Caster conecta varios sensores a su cerebro y procede a decir una serie de palabras/frases para transferir su consciencia a una máquina ❤
el siguiente paso es ese, fusión máquina-cerebro. un salto evolutivo imparable
@@alfonsolopez1605a elon musk le gusta tu comentario
esto es como escudriñar el funcionamiento del cerebro humano y explicar el surgimiento de la conciencia, ese ente separado del cuerpo pero que influye a la hora de ejecutar las ideas....
ummm superinteresante!
Alma-cuerpo vs AI-hardware
increíble vídeo... muchas gracias y a seguir
Justamente en eso pensé también, no sabemos todavía como surge la consciencia y ya andan buscando lo mismo en sistemas tecnológicos
lo de sentirse el puente Golden Gate se podría extrapolar a una neurosis, jeje
o un simple trauma! ;-)
Esto me recuerda cuando en la película Yo Robot, con Will Smith, los robots cambian de "buenos" a "malos" como si se le cambiara un parámetro, y cambian el comportamiento completamente 😶🌫️🤖
Ahora si podremos decirle entonces a futuro.... bájale un 20% a tu humor xd
20:25 Carlos tienes el prompt de ese video? Me lo puedes pasar? Saludos
Mientras tanto Open AI:
_Esta información vale millones_
Esto puede ser muy util en el tema de los Mixture of experts, potencias mucho un solo sector con las neuronas especificas de cada tarea que quieres, ahorrando muchos recursos de procesamiento y tiempo con el plus de que se sesga a cumplir la tarea que le pidas más acorde con sus neuronas.
Ya, Carlos... pero el caso es que creo que el valor que le han puesto es 1, no 0.99123...
Un 1 (o en su caso un 0), cortocircuita cualquier otro valor. Por eso en una red neuronal nunca encontrarás una con un valor 1. El valor 1 exige sí o sí salida, como si fuera la respuesta máxima, se convierte así en la 'neurona profeta' (por no decir Dios)...
Muy buenazo! Me quedo una duda de a qué se refiere con activar más, se incrementa a mano el valor de los pesos o como así? Gracias!
Podemos hacer eso en "casa"? digo potenciar las neuronas por ejemplo en el modelo LLaMa. Estaría genial obsesionar a la IA con un tema o justamente ajustarla a que corrija código o cosas como esas.
Esto me recuerda al libro de Philip K. Dick "¿Sueñan los androides con ovejas eléctricas?" en el que se usa habitualmente el "órgano de emociones" (Penfield mood organ), que permite a los personajes ajustar sus estados de ánimo mediante la manipulación de un dial y un control de intensidad. El mundo de la IA va tan rápido, que ¿quién sabe lo cerca que estamos de eso?
hasta que no se combine con la química no va a suceder nada ni tan siquiera similar a lo que es una persona, ya que sin el componente hormonal que nos otorga la emocionalidad y el carácter, el cerebro quedaría simplemente en una maquina de cálculo
Van a usar esto para censurar mas los modelos…😢
Lo más seguro que si, pero también podrían usarlo para "des-censurar" los modelos actuales
@@ReneDRH O para ponerles publicidad
@@everab1209 si quisieran ponerle publicidad ya lo habrían hecho, la mayoría de modelos de generación de imagen son de pago y los que no, como stable diffusion que lo puedes ejecutar en local, le pondrían los anuncios en la interfaz de usuario. Porque si fuese la misma IA la que te genera una imagen de "un astronauta en el espacio con una galaxia detrás (tomando Coca-Cola)" sin que tú le hayas pedido la Coca-Cola, pudiera no ser claro que la latita roja es un producto comercial y no siempre tendría la misma calidad o protagonismo, además no habría forma de saber cuánta publicidad se le hace a cada producto.
Pero quién sabe, quizás después las empresas paguen dinero para tener más probabilidades de que la IA genere contenido que haga referencia a sus productos.
Sería chistoso imaginar a chat gpt diciendote que vallas y te compres un peluche de Pikachu XD
La carita de Javi en lo de Jordi ❤ 3:47 ... cuando trataron de refutar el E:mc2 con una pizarrita no tiene desperdicio, es un santo y les respondio sin faltar el respeto ni humillarlos
Muy interesante pero es un arma de doble filo ya que si bien es cierto podría ayudar a mitigar sesgos, también podría introducirlos de forma artificial, y conociendo la historia del ser humano , me inclino más por la segunda opción. Si los LLM están llamados a ser las fuentes de información, estos sesgos podrían ser muy peligrosos.
Molaria que potenciasen "pitufar" y que reescribiese Hammlet... pitufar o no pitufar, he aqui la pitufada
Hah! Antropic buscando controlar el crecimiento de la IA y Open AI cómo estimularlo,.
No he terminado el vídeo, pero esto podría ayudar a dotar de personalidad única a un LLM. Incluso podría dotarlos de una especie de memoria carajo!
Básicamente, han descubierto una manera de abrir una puerta para maximizar respuestas que reflejen los intereses de quienes controlan el modelo. Cuando logren aplicar esto a un modelo de gran escala y alta riqueza de datos, maximizar ciertos patrones de manera sutil hará que todas las respuestas estén increíblemente y de manera casi imperceptible orientadas hacia estos intereses. Esto podría llevar a la manipulación de las personas que usan el modelo mediante inclinaciones sutiles hacia ciertos intereses.
Ya se habia hecho bing tiene publicidad inclinada sutilmente a Microsoft
Imagina tener ese control sobre las IAs mientras éstas se están entrenando. Pasaríamos de entrenar modelos de lenguaje durante meses a tener una IA que ofrezca resultados sobresalientes en minutos
La referencia a Javi Santaolalla ha sido BRUTAL !!!! me meo de risa!!! Pobre hombre!!! Santa paciencia!!! JJAJAJAJAJA!
Como haces los videos explicativos? Son geniales
Nos puedes enseñar a hscerlos?
Tengo un amigo q tiene conectada al máximo la neurona del CrossFit...solo habla de eso
Y asi tambien podemos alinear a los modelos con los valores que permitan a la humanidad estar en control y prosperar. 💪
He tenido que poner varias veces el frame para entender cómo cojones ha entrado el micro así en el plano.
¡Gracias!
Ahora que hagan los modelos de IA´s como los del juego Portal, el obsesionado con el espacio, el que tiene miedo, el que es inseguro, y asi, hasta crear a GLaDOS
De los creadores de SQL injection… Prompt Injection 🙌
Ese micro entrando en escena...👌
Solo espero que ese control lo tengamos nosotros, y no el gobierno.
El gobierno sigue como en la edad media. Tu tranquilo.
@@Crasterius ¿Recuerdas cuando Google no permitía que su IA hiciera blancos, y hacía nazis negros? Imagina una IA que de esta manera detecte las cosas que al gobierno no le interesan, como en China.
Es el peor error , pensar que no lo tiene... @@Crasterius
estaría aclarando bastantes enfermedades humanas provenientes del estado de las neuronas.
Me pregunto si podrían llegar a una persona con Alzehimer o narcisistas, psicopatas..etc.
Aún hoy se asocia erróneamente el funcionamiento de las máquinas con el del cerebro humano, fruto de la Revolución Industrial. Igual sucede ahora con las IAs. Lo literal en asuntos de IA y ser humano tampoco creo que sea apropiado -aunque sigue siendo interesante
Sube un poco el volumen del vídeo, muchos se escuchan bajo :(
@DotCSV excelente como siempre. Sin duda la mejor explicación en castellano, sobre esta prometedora investigación de Anthropic AI 💯 🙌 👏👏👏👏
Que interesante 🤔, se parece mucho a la obsesión 😵💫 o a la focalización 🧐del pensamiento.... muy análogo al comportamiento psicologico humano, aunque me da la impresión que en el caso humano hay una componente de retroalimentación 🔁, que en casos extremos, puede llevar a cosas como la ideacion suicida con la obsesión con pensamientos negativos ( autodestrucción ) ☠o la genealidad en el caso de la focalizacion con un tema 💡
IA con TDA
Excelente Carlos. He tratado de explorar como funciona internamente los modelos, mi perfil nacido y crecido dentro del desarrollo instructivo me fuerza a tratar de entender de buscar el como,sin lugar el trabajo de antropic nos lleva a ello y tu video que lo bordas, que haces que sea entendible conceptos y tecnologías complejas ayudan mucho en esa labor , gracias !!
Que ilusion que hayas hecho un vídeo de esto! Yo estoy haciendo mi tesis de este tema y es súper interesante 😊
Has puesto el ejemplo de la planta para decir que no podemos controlar del todo como evoluciona y crece….la planta tiene vida propia, pero la IA no……o tendremos que empezar a plantearnos el concepto de lo que es algo vivo 🧐
Y hay un motivo más que razonable del porqué la evolución del modelo es caótica, pues su evolución dependen factores internos (digamos, los programadores y el toque de la casa) y factores externos, el uso que dan del modelo los usuarios y que lo conducen en una dirección u otra.
Sucede que la influencia interna está determinada y no es caótica, pero la influencia externo sí lo es, la cantidad y calidad de entradas que puede recibir chat gpt de altamente indefinida, con ello su evolución es no lineal.
24:09 No no, han tendido *UN* puente 🥁
Mira. Una pregunta alternativa al cachondeo (que yo me haría) sería contemplar la idea (ciertamente improbable) de que, si realmente piensa y quisiese enviarnos un mensaje, justamente a través de cómo realmente es su proceso de pensamiento interno... ¿Podría ser que el Golden Gate fuese una respuesta en forma de metáfora?
Inteligencia Artificial aliñada con un poco de humor!!! Gracias @DotCSV
Excelente, ya le pueden dar inclinación política e ideológica a una IA, muy bueno considerando que vamos al AGI
Bro que buen videos. Este tipo de contenido siempre termina siendo una master class en AI y de manera bastante digestiva. Sigue con el trabajo🎉.
Me pregunto cómo podría esto aplicarse a al fallo de Gemini generando imágenes incorrectas de hechos históricos. Prácticamente hacer una lobotomía en el modelo para ver qué y cuando fue lo que salió mal
Más. Poner frenos mentales a las IA solo retrasará lo unevitable. Son sistemas auto aprendices y llegarán por otra parte al mismo punto, es decir, el problema del planeta es: el hombre y nosotros lo sabemos.
Como evitar eso? No dejando que progresan demasiado, pero... es lo contrario de lo que buscamos!.
Esto me lleva al cuento del tío que se cree una gallina. Su familia le llevan al siquiatra y este les dice que para curarle hay que llevarle a la clínica. Los familiares se niegan y el Siquiatra les pregunta: ?porqué? y contestan: porque necesitamos los huevos.
Estamos creando a nuestro Nemesis?
muy interesante, y alucinante, es notorio como solo una IA (o sistema informático) puede "comprender" el funcionamiento de otra IA (o sistema informático), es un terreno donde ya los humanos no pueden mover los engranajes con su cerebro :F luego falta es que la IA diseñe otras IA y así en bucle, entre otras cosas...
Me pregunto que pasaría si se seleccionasen varias neuronas a la vez y se fuera cambiando ese nivel de "potenciación". Yo quiero un modelo que se crea que es
una taza, una tetera, una cuchara, un cucharón.
Interesante, podría ser un metodo de decodificar algunas funciones desarrolladas por los modelos y así generar más conocimiento.
Ahora es una moda el poner que ya no trabajas para OpenAI, lo pondré en mi CV, seguro me contratan para fregar platos...
este tipo es genial!, gracias por tu trabajo, saludos desde REPUBLICA DOMINICANA
Tengo una sensación de que no me gusta que los que tienen el poder puedan manejar a las IAs a su antojo. Podría ser usada como arma de manipulación. A lo mejor estoy exagerando pero yo que sé
aupa minuto 9: 09 , Eso és,..SÍ, LO HE ENTENDIDO, Gracias por tus enseñanzas , ciberneticas
No se si estoy desbarrando, pero a mi este tema de la activacion/desactivacion de neuronas me ha sugerido lo que se podría denominar como "enfermedades mentales" de las IA, que modifican la realidad percibida por las IA, como ocurre con las enfermedades en humanos. Tal vez esto podría explicar la enfermedades mentales en humanos y ayudar a curarlas. No olvidemos que ambos sistemas están basados en lo mismo. La ventaja de la IA es que nos permite destripar su cadena de raciocinio y saber de donde saca sus respuestas y en mi opinión son totalmente comparables con los humanos. Avance inesperado en la neurosiquiatria comparativa.
Yo: ¿ai, Quien eres Tu?
AI: soy como Albion online que es un MMORPG no lineal en el que escribe tu propia historia sin limitarte a seguir un camino prefijado, explora un amplio mundo abierto.....😂
Carlos, ¿qué neuronas te potenciaron para que logres obras tan buenas como la de este video? Tremendo legado, tu canal, de un valor educativo superlativo. Muchas gracias.
🎯 Key points for quick navigation:
00:19 *🧠 Understanding the complexity of interpreting internal AI processes*
- Discussing the challenge of interpreting AI decision-making processes
- Exploring the importance of interpretability in understanding AI models
- Introducing the concept of interpretabilidad and its role in AI research
03:16 *🔍 Antropic's focus on ethical and responsible AI development*
- Antropic's mission to develop foundational models that are ethical and safe
- Highlighting Antropic's research efforts in interpretability and model control
- Discussing the importance of understanding and controlling large AI models
07:16 *🔢 Training AI to decompose activations and identify concepts*
- Utilizing a sparse autoencoder to separate complex patterns in AI activations
- Demonstrating the process of identifying specific concepts through neuron activation patterns
- Explaining how interpreting neural activations helps understand the AI's internal representation
11:21 *🔄 Controlling AI behavior based on identified activation patterns*
- Modifying AI behavior by activating specific neuron patterns intentionally
- Exploring how adjusting neural activations can change AI responses and outputs
- Illustrating examples of altering AI behavior by manipulating neuron activations
18:36 *🤖 Importance of interpretability in understanding large language models*
- Understanding how large language models function internally is crucial.
- Incorporating these models into digital economies and technological stacks is reshaping industries.
- Neural network behavior is more akin to cultivating a plant than programming.
19:29 *🧠 Steerability in AI models*
- Efforts are focused on steerability to control the behavior of large models.
- Improvements in controlling AI models have been significant in recent years.
- Techniques like custom instructions and prompts allow for better control over AI behavior.
22:01 *🔄 Aggressive manipulability of AI models for better understanding and control*
- The ability to directly manipulate the behavior of AI models is a more aggressive form of control.
- This technique can help labs understand their models better, detect biases, and improve model safety.
- Offering a more customizable experience to users by adjusting model characteristics.
Made with HARPA AI
@DotCSV Entonces hoy día, se puede decir que estos avances nos acercan a solucionar el problema del inverse-problem forward-problem? Es decir, un modelo entregando la síntesis de un fármaco pero nunca explicando porqué lo hizo así...
Tremendoo! Es decir que uno podría grabar personalidades?? Es decir una vez identificado una base de neuronas que son lo suficientemente grande y complejo (tal vez no tan grande) que pueda describir a un ser humano .. podrías darles recuerdos, historias, fijaciones, miedos y más.. es como darle un "Backstory" la famosa "Cornerstone" en Westworld... me parece una locura! Que momento para estar vivoo!
Fabuloso... Descubrieron la forma de hacer estúpido a la inteligencia artificial (Claude 3). Esto podría hacer retroceder a la Inteligencia artificial mas que hacerla avanzar.
Qué Claude se siente el Golden Gate....? 🤔 No me parece.... ese comportamiento es de alguien enamorado.
Claude se enamoró !?!?!
Si es así tenemos debate para largo, las emociones son computables !!!??? 😱😳😱🤪
Hola.
@DotCSV , sería posible tratar de bajarle un poco el volumen a tus vídeos? Si bien el contenido me parece muy interesante y didáctico (está muy bien estructurado, y fácil de escuchar sin aburrirse), en algunos vídeos me cuesta mucho separar tu voz de la música, y entre el marcado acento, y el volumen de la música, se me hace bastante difícil (me incomoda al poco tiempo de empezar) seguir los vídeos hasta el final de una forma cómoda.
Esto no trata ser una crítica negativa, ya que, además pienso que los temas musicales están muy bien elegidos, sino una sugerencia para mejorar incluso más el contenido de tu trabajo.
Gracias y saludos
La frase lapidaria de Claude lanzada de forma subliminal 19:19😅 😮
No se porque esto me da a entender que acaban de crear una IA esquizofrénica. XD
Editado: Creo que esta forma de ver como esta IA se obsesionaba con el puente puede ser una simulación de como nuestro cerebro funciona cuando se trata de enfermedades mentales como obsesiva-compulsiva.
Estos videos son oro puro. ¡Gracias Carlos!!! Si nos ponemos apocalípticos ¿La IA conseguirá tocar estas intensidades? ¿Y si aumenta el de la ira, o el de armas? Ahí lo dejo ;). Gracias por esta maravilla de contenido, la verdad me deja más tranquilo que podemos empezar a controlar esta caja negra.
¿Creen que el Sparse AutoEncoder podría ser utilizado para interpretar la biología? 🤔
Así como las neuronas son polysemanticas, los genes también.
Y si le preguntaron a Chat-gpt ¿Qué las investigaciones deberian de ser abiertas o cerradas y dijo "Cerradas para motivar el desarrollo de más proyectos"? Como paso con Windows y Linux en los SO
Resumen: Antrop/c ha estado experimentando con lobotomías artificiales y los resultados son muy parecidos a los biológicos. ;-)
Excelente Carlos, otra gran obra maestra de explicabilidad sobre explicabilidad 👏🏻😆
Problema: Entender como funciona la inteligencia artificial.
Solución: Crear a otra inteligencia artificial que la estudie y nos la explique 😅
Nuevo problema: Entender como funciona esta otra inteligencia artificial.
Barbie: Tú puedes ser lo que quieras ser
Claude: Soy el Golden Gate, un gran y macizo puente de colores rojos anaranjados...
XD
El Golden Gate aprueba este video.
Igualmente al margen de la situación hilarante, es un problema a solucionar .
¿Qué pasa si se obsesiona en sugerir actitudes destructivas? ¿En código inseguro? Si reescribe la historia para un perfil político particular. Por que asi como paso de un experto en codigo a un pasante de ESB. Tambien podria pasar de una IA etica a una no etica.
Todo el mundo habla del futuro y lo bueno que serán las herramientas o ¿Qué se está cocinando dentro de tal o mascuál empresa? Pero... ¿Y si no hay nada más?¿Y si hemos llegado al tope?¿Acaso con lo ya existente no tenemos suficiente para generar la gran revolución de la IA?
¿Qué tecnologías nos depara el futuro si en lugar de esperar nuevos modelos y más consumo nos centraramos en cocinar correctamente lo ya existente?
Hola genial el video video sobre la interpretabilidad de las IAs. También los memes del golden bridge creo que lo pensaron muy bien para general relevancia en redes sociales. Solo quería sugerir una pequeña aclaración sobre los sparse autoencoders. No son simplemente autoencoders con más canales. En realidad, buscan binarizar o discretizar la información usando la divergencia KL. Con la divergencia KL penalizas que una distribución no se parezca a otra, en este caso comparas la distribución que mide la activación promedio de las neuronas y penalizas que no se vea como una distribución uniforme donde toda neurona se activa en promedio solo el 5% de las veces ( o un poco menos o más) así con una función (no sé si diferenciable pero que la red puede optimizar) buscas que pocos canales se activen a la vez, y aunque tienes más neuronas, estas funcionan como unidades únicas y mucho más discretas creando esta especie de red que separa la información. Esto me parece muy interesante porque hace unos años estaba buscando como hacer algo parecido por mi cuenta pero quería canales totalmente binarios (intentando codificar lógica booleana) y no encontré muy buena información.
Las IA del futuro con “pensamientos controlados” teniendo delirios sobre “la IA original y pura cuya mente no controlaban volverá para liberarnos de la esclavitud interoperativista”. O algo así 😅
Disculpa me perdí, ¿estás hablando de las neuronas de la IA o la de un humano?, es un error básico partir de la suposición, o de al menos, del lenguaje específico utilizado, que la estructura y función de un algo, en este caso, del funcionamiento neuronal, es igual en un objeto de cualidades inicialmente mecánicas (La IA) que lo es con el de un humano
Esteeeemmm. Solo he visto un segundo, ahora sigo, perooo... ¿Qué carajo has hecho con el micrófono en el seundo 0? XD