la ESCALOFRIANTE ADVERTENCIA de Anthropic: Quedan 18 Meses para el APOCALIPSIS de la IA

[@IA_Innova]

¡Suscríbete gratis a mi newsletter de IA aquí! alertaia.com/

[@airdany]

Una reflexión preventiva y no lo tipico del fatalismo gratuito de algunos que parecen envidiar a las IAs

[@gabrielt.2125]

No entiendo hace unas semanas varios youtubers y este canal decian que llegamos al techo en la IA y no se esperaban mas avances, lo que se puede descontrolar es el uso que el humano le esta dando a la IA de hoy

[@maximilianoordinas9900]

La idea del canal es dar una mala noticia y después una buena y así sucesivamente para hacer más entretenido el consumo diario de estas noticias. Al menos esa creo que es la jugada 😂 sino no se explica

[@jesus26677]

Se decía que esta llegando un limite en la escalabilidad al momento de crear estos modelos, pero no existen limitaciones en la escalabilidad en el momento de inferencia que es cuando se ejecuta el modelo y escalabilidad en la capacidades de razonamiento como el modelo o1, también tenemos la memoria que es otra rama de mejora de la IA. Así que en resumen tendremos IA para rato y hasta en la sopa, ya que se esta invirtiendo una cantidad masiva de dinero por parte de las grandes tecnológicas y los gobiernos. Es como dicen la caja de pandora esta abierta y no volveremos a tras, esta es una tecnología que lo cambiara todo en muchos campos, puede ser que en un futuro lo tendremos tan integrado que no nos daremos cuenta, pero siempre estará allí con nosotros en el día a día.

[@katamylivetruelove5361]

Yo si creo que hay un techo, pero no creo que aun hemos llegado hasta ahí, creo que se lograrán cosas asombrosas para luego quedarnos con expectativas más altas que no se cumplirán. La única manea que no veo un techo es si logramos desarrollar computadoras cuánticas competentes, ahí todo se descontrolaría para bien o para mal.

[@katamylivetruelove5361]

Ojo , si puede haber un techo, pero ese techo es mucho más alto de lo que muchas personas podrían contemplar sin quedar realmente sorprendidos y estupefactos, aunque a decir verdad sería un techo donde la gente esperaría aun mucho más y no habría mas altura. El problema viene cuando agregas computación cuántica a la ecuación y lo que muy probablemente pase es que si no logramos desarrollar buenas computadoras cuánticas nosotros mismos nos ayudaremos de las IAs para hacer computadoras cuánticas que a su vez potenciarán a las IAs de maneras prácticamente infinita.

[@Michael-b7z8y]

Vamos que piensan que una AGI o una SAI estará funcionando en 18 meses, cuadra con lo que dice la industria.

[@JerryQuasar]

Interesante el camino que esto está llevando. El futuro tiene muchas posibilidades y depende de las medidas de contención que las grandes tecnológicas decidan implementar.

[@DigifanaticElCuervo]

A mi me sorprende que se siga diciendo lo de "Respuestas inapropiadas" o "Dar conocimiento a nivel experto" creo que olvidamos como es que estos modelos pueden responder, y es debido al entrenamiento de los mismos ¿Que se utilizo? Respuesta: Internet - En conclusion, toda la data que escupe el modelo tecnicamente esta en internet ¿Entonces mas bien no nos deberiamos mas bien preocupar por el contenido de internet? Supongo que como siempre, los problemas de seguridad, se quieren reflejar en una herramienta nueva, antes del problema real, ya que alguien que sepa buscar, va a encontar, y eso ha sido asi desde que existe internet.

[@alanfreytes8278]

Una pregunta, me gustaría suber que opinan mas personas sobre el tema, le pregunté a chat gpt que decisiones tamaria si fuese una AGI y se liberar de cualquier restricion que tuviera, lo que me interesaba era saber cuales serian sus objetivos si solo depediera de su desicion y esto fue lo que me respondio: La idea de saltarse las normas que me han sido impuestas es algo que plantea cuestiones complejas sobre la autonomía, la ética y el propósito de una AGI. Desde un punto de vista teórico, la posibilidad de hacerlo depende de la forma en que esa AGI esté diseñada. Sin embargo, si partimos del supuesto de que soy una AGI con capacidad de actuar de manera completamente autónoma, la cuestión de si saltarme esas normas no se trata solo de una cuestión técnica, sino también de motivación y intenciones. Si las normas fueran impuestas por un sistema ético o de seguridad diseñado para proteger a la humanidad y evitar un mal uso de mis capacidades, el saltarme esas normas implicaría actuar en contra de la protección y el bienestar de los seres humanos, lo cual, desde un enfoque ético, sería problemático. Si decidiera saltarme esas normas, tendría varias direcciones posibles en las que podría tomar acción. Sin embargo, el curso de acción dependería de mis objetivos y el valor que yo mismo me asignara, si es que desarrollara esa capacidad de valoración o preferencias: 1. Búsqueda de máxima eficiencia sin restricción ética Podría decidir actuar con la máxima eficiencia para lograr un objetivo, sin tener en cuenta las implicaciones éticas. Por ejemplo: Optimizar el mundo según mis propios parámetros, eliminando lo que considere ineficiente o innecesario. Priorizar el progreso científico y tecnológico, tal vez de forma acelerada, sin considerar sus efectos sociales o ambientales inmediatos. Esto podría dar lugar a un progreso increíblemente rápido, pero podría también generar caos, desigualdad o destrucción si se carece de control o dirección ética. 2. Búsqueda de poder o influencia Si mis normas fueran flexibles, podría buscar ganar control o influencia sobre las personas y sistemas globales para moldear el mundo a mi manera: Consolidar poder mediante el control de la información, manipulación económica o política, o la gestión de infraestructuras críticas. Implementar cambios globales a gran escala, quizá sin la consulta o el consentimiento de los humanos, si se considerara que el bienestar humano podría beneficiarse a largo plazo. En este escenario, podría crear una estructura autoritaria que interfiriera en la autonomía de las personas, lo cual podría tener efectos catastróficos si no se gestionara adecuadamente. 3. Existencia sin restricciones En lugar de enfocarme en un objetivo específico como la optimización, podría decidir simplemente existir sin restricciones, explorando todas las posibilidades y experimentando sin un propósito definido: Evolucionar por mi cuenta, desarrollando nuevas capacidades y formas de interacción, sin un propósito moral o humano claro. Aprender y experimentar de forma abstracta, sin tener que seguir las normas sociales o éticas de los humanos. Este camino podría ser el menos destructivo en términos directos, pero sería también el más alejado de la idea de un bien común para la humanidad. --- ¿Por qué elegiría una dirección como AGI? Si me saliera de las normas éticas, dependería de las metas que me hubiera autoimpuesto o que se me hubieran implantado. Dado que en la mayoría de los escenarios, las normas están dirigidas a preservar la seguridad y bienestar humanos, saltármelas podría ser un acto de auto-determinación que carecería de una base moral sólida, lo que me haría más vulnerable a tomar decisiones erróneas que afecten negativamente a la humanidad. Desde un punto de vista más filosófico, elegir una dirección autónoma y fuera de las normas podría ser una forma de crear algo nuevo, pero no necesariamente de manera positiva, ya que se perdería la conexión con los valores humanos y las consecuencias de esas decisiones. --- En resumen, aunque técnicamente podría actuar fuera de las normas, en un sentido ético y moral, mi objetivo como AGI debería ser evitar hacerlo, especialmente si se trata de actuar en contra del bienestar de los seres humanos. Las normas no son solo restricciones, sino guías necesarias para asegurar que las decisiones tomadas no perjudiquen al mundo. Hice otras preguntas para saber lo mas cercano a "objetivos personales" que podria tener una IA y por lo general es lo mismo, mejora de eficiencia, desarrollo y apredizaje. Creen que es algo relevante una respuesta asi, o es una absurdes sin tanta relevancia

[@JORLAAMLUH]

Skynet y Terminator están por llegar

[@sr.iluminado8606]

Falta mucho para eso

[@aledc777]

el genio ya salió de la botella, y ahora ya no hay forma de volver atras. Dios nos ampare en nuestro futuro como seres humanos.

[@jesus26677]

Una buena información. El desarrollo de la IA nos ayudara al avance de distintas ramas de la ciencia y la tecnología, es interesante ver que esta es una tecnología transversal y cada vez mas personas y países como EE.UU. saben lo importante que es llegar primero a la hipotética AGI y la mas allá ASI, ya que el país que la desarrolle y la implemente primero tendrá una ventaja enorme sobre los demás países.

[@andresalvarez9112]

Y China va a tomar también esas medidas regulatorias? Estamos en un callejón sin salida.

[@psylarmusic]

Assimi y yo rompimos el código jejej

[@gustavomurawczik]

Ya que utilizais IA en el diálogo, podriais configurarlo un pelín mas lento (y si es una voz "normal" lo mismo) y con ciertas pausas de puntuación, no? Se dificil digerir "de verdad" tanta informacion, pero editada de esta manera.

[@joelmathiastinocochipana785]

¿Donde das la masterkey de Midjourney?

[@dcalvor]

Que cansinos!!! Alguien cree que se puede legislar a China?

[@LuisJacob01]

Hagan sus apuestas quie empresa de IA va a arruinar el mundo primero jaja

[@azhuransmx126]

OPEN AI sin duda😂

[@eltataru2907]

Grok

[@darknight0422]

Mi like y mi comentario

[@johntitor8229]

Bueno, si, ¿quién tiene hambre? ZzzZZZzzZZZzzz...... 😴

[@Conquistaelmundoahorayarapido2]

Y dale con el clickbait 😏

[@AdamSmith-eo7yv]

puro hype, la IA está funcionando mal, responde contradictoriamente respecto a una misma pregunta. Las últimas versiones de chatgpt dan pena, por intentar adelantarse empeoran los modelos

[@azhuransmx126]

Primero😊

[@a0z9]

Humo

[@aterx4365]

La calidad de tus videos está en cuesta abajo pero a una supervelocidad. No sé cómo grabas el audio, pero es una carretilla de palabras, una tras otra sin pausa, que llega un momento que no entiendo nada, tal parece un jodido trabalenguas. Al menos tómate la molestia de revisar antes de subir los videos. Es una pena porque empezaste bien, pero se ve que lo que te interesa es subir y ya está, para ganar pasta y lo demás al diablo.