Hoy tengo el placer de charlar con Pedro Mujica, experto en IA. Se define como un tecnohumanista y es una mente inquieta en el mundo de la inteligencia artificial.

Pedro no solo es ingeniero en Ciencias de la Computación y fundador de WECOLAB NETWORK, sino que también está detrás del Manifiesto TecnoHumanista y del proyecto IANética, donde se cuestiona cómo hacer que la IA juegue a favor de la humanidad y no al revés.
Ha trabajado con gigantes como Coca-Cola, Telefónica y BBVA, y se mueve como pez en el agua entre la ética digital, el Big Data y la IA aplicada.

Acaba de publicar el libro SUPERHUMANOS – De lo digital a lo biológico: la fusión del ser humano con la tecnología.

Su lema lo dice todo: “Sí al progreso tecnológico, pero con reflexión y freno”.

Hoy Pedro y yo hablamos del uso y desarrollo de la IA en la actualidad, de la importancia de la ética y la sostenibilidad en la tecnología, así como de la necesidad de una educación adecuada para adaptarse a los cambios que trae la IA.

También abordamos el futuro de la humanidad en relación con la tecnología, la responsabilidad en el desarrollo de la IA y los desafíos que enfrentamos en el ámbito laboral.

Enjoy! 🙌

Notas del episodio con Pedro Mujica

• 00:00 Introducción a la Tecnohumanidad
• 01:06 Uso de la IA en la Vida Diaria
• 02:49 Desarrollo de IA en Europa
• 05:34 Relación con la IA y Aprendizaje
• 08:30 La Importancia de Aprender a Programar
• 11:36 Cyborgs y la Integración de Tecnología
• 16:37 Ética y Futuro de la IA
• 20:51 La Realidad de los Cuerpos Biónicos
• 23:23 Avances en Robots Humanoides
• 26:23 Impacto de la IA en el Trabajo
• 27:57 Riesgos de la IA y la Ética
• 34:08 La Regulación y la Conciencia Ciudadana
• 39:20 La IA y el Racismo: Un Reflejo de la Sociedad
• 42:11 Ética y Sostenibilidad en la IA
• 44:50 Responsabilidad en la Toma de Decisiones de la IA
• 55:36 Regulación de la IA: ¿Gobiernos o Empresas?
• 58:11 La IA como Solución a Problemas Existenciales

Transcripts de la conversación con Pedro Mujica IA

Esta transcripción se ha hecho de manera automática y puede contener errores de ortografía y gramática.

Decodificados Podcast (00:01)
Hoy tengo el placer de charlar con Pedro Mújica, tecnohumanista y mente inquieta en el mundo de la inteligencia artificial. Pedro no solo es ingeniero en ciencias de la computación y fundador de WeCollab Network, sino que también está detrás del manifiesto tecnohumanista y del proyecto IAN ÉTICA, donde se cuestiona cómo hacer que la IA juegue a favor de la humanidad y no al revés. Ha trabajado con gigantes como Coca-Cola, Telefónica y BBVA.

y se mueve como pez en el agua entre la ética digital, el big data y la IA aplicada. Además, acaba de publicar el libro Superhumanos, De lo digital a lo biológico, la fusión del ser humano con la tecnología. Zulema lo dice todo, sí al progreso tecnológico, pero con reflexión y freno. Pedro, bienvenido a Decodificados.

Pedro Mujica (00:49)
Muchas gracias por invitarme, Eloy, que es un verdadero placer estar aquí en el podcast.

Decodificados Podcast (00:54)
Pedro, antes de meternos en casos morales y éticos, que nos meteremos, me gustaría saber en qué usas tú la IA en tu día a día, qué herramientas utilizas y para qué usos.

Pedro Mujica (01:06)
Pues prácticamente la estoy usando ya para todo. Las primeras son los agentes conversacionales, que ya son más agentes que asistentes. Este año es el de los agentes. Mucho más autónomos, más inteligentes, más capaces, más rápido. Y voy pivotando entre ChatGPT, Perplexity, GROG.

Decodificados Podcast (01:33)
¿Ok?

Pedro Mujica (01:34)
tres fundamentales creo que es el de Elon Musk, el de XAI y según para qué cosas acudo a Claude el de Anthropic, Anthropic Claude que es mucho mejor para la programación o a Gemini, el de Google o a otros modelos porque yo también trabajo en local con modelos open source también uso DeepSeek o QN

Decodificados Podcast (01:57)
¿Ok?

Pedro Mujica (02:01)
Pero bueno, ahí está el tema de la ética y a quién quieres dar datos. Y sobre todo ahora estoy investigando las IAS europeas, que también quiero empezar a barrer para casa.

Decodificados Podcast (02:12)
¿Ok?

¿Hay alguna

que esté a la altura más o menos de estas que acabas de comentar?

Pedro Mujica (02:20)
Empiezan a estar Mistral, ejemplo, Mistral que es francesa, está bastante bien. Todavía para, por ejemplo, tecnólogos y desarrolladores tal como yo la uso, está un poco por detrás, pero hay soluciones que yo puedo implementar como para usarla al mismo nivel de eChat GPT, por ejemplo, para proyectos europeos. La ventaja de las guías europeas es que están entrenadas específicamente para

los idiomas europeos. ahí, bueno, es un punto a favor y sobre todo para nosotros, si no la impulsamos, Europa se puede quedar muy atrás y eso no interesa a WonderLion.

Decodificados Podcast (03:02)
que ya lo está empezando

a quedar atrás, porque va tan rápido todo que como empezó ya estando atrás, esto en general no hace más que agrandar el gap, es muy difícil.

Pedro Mujica (03:10)
Sí,

sí, sí, pero todavía sabes que Europa tiene un tamaño bastante considerable, su economía es muy fuerte y bueno a Wonderlay en París, en la cumbre de París, hace ya dos semanas ya anunció esos 100.000 euros de inversión para la inteligencia artificial y eso va traer pues muchísimos proyectos, iniciativas y va a ser totalmente positivo, pero aún así hay como…

buen ecosistema para no quedarnos tan atrás. como tres guías alemanas que están bastante bien, Mistral que la que lidera porque las otras son un poquito más orientada a empresa y otras dos francesas. Entonces estamos ahí empezando a arrancar, españolas también pero no tan poderosas, pero estamos empezando a arrancar qué es lo que se debe. Esta inversión que se anunció era necesaria y después el tomar conciencia.

que desde lo que habla mi libro y mi mensaje continuo y repetitivo tomar conciencia de que tenemos que adaptarnos, aceptar, subirnos a esta revolución porque no nos podemos quedar con esa brecha enorme. Sería un grave error. Sí.

Decodificados Podcast (04:24)
Y como cuando

tú dices el que usas, veo que usas todo el espectro de lo que hay ahí para gran consumo, digamos, para gente que no programa o que no está tan metida como tú en la IA. Estabas diciendo que usabas más, por ejemplo, el Claude de Anthropic para programación. Cada uno lo estás usando para una cosa en concreto. Tú encuentras que uno es más especializado en algo. Nos puedes ahí.

Pedro Mujica (04:29)
todo

Decodificados Podcast (04:48)
dar tus luces sobre esto.

Pedro Mujica (04:49)
Claro,

son IAS generalistas, son inteligencias artificiales, agentes conversacionales, asistentes conversacionales generalistas. Supuestamente cada empresa dice que la suya es la mejor y que sirve para todo, pero después claro.

Decodificados Podcast (05:06)
obviamente

faltaría más,

Pedro Mujica (05:08)
No la anuncian como es que la nuestra está especializada en esto, sino que a veces dicen es que la nuestra es muy bueno en esto, eso como cambia tan rápido tienes que estar haciendo constantes pruebas, por ejemplo ahora Claude podría ayudarme a programar muy rápido, parece que ha sido muy bien entrenada para eso, pero eso puede cambiar en la siguiente versión de grok.

o en la siguiente versión o iteración de chaves GPT todo cambia tan rápido que no te queda otra que ir probando te tienes que informar casi cada día de todas las novedades de estar suscrito a newsletters especializados tener buenas fuentes para leer las noticias más importantes tampoco dedicarle muchísimo tiempo como yo que soy investigador pero al menos estar suscrito a

cinco o seis fuentes principales para que sepas hacer los cambios porque cuando sale una nueva versión normalmente dicen en qué es buena y entonces ahí das el salto digo ostras pues voy a dejar de usar esta y empiezo a usar la otra claro para eso tienes que tener una preparación que también sea generalista en cuanto a tu relación con la guía y aquí viene algo importante en cuanto

a lo que es que cada persona de forma autodidacta o siguiendo cursos entre en el uso de la IA cada día y es que tenemos que cambiar la forma en la que aprendemos a usar la inteligencia artificial no es tanto una lista de trucos, tips and tricks o consejos o buenas prácticas

o formas de hacer los prompts, las peticiones, las preguntas que usas en la conversación en modo texto no es tanto ir recopilando, pues esto lo voy a hacer así, entonces cuando use esto y tal porque eso se queda obsoleto muy rápido y cambia constantemente no es tanto eso sino empezar a relacionarte con las inteligencias artificiales, con estos agentes a relacionarte entendiendolo

cómo evolucionan y cómo funcionan de una forma un poco más profunda que lo que hemos hecho con el software tradicionalmente en los últimos 30 años desde que aparecieron los ordenadores en nuestra vida. Fíjate que siempre has dicho, voy a aprender Photoshop y lo haces de una forma al principio difícil, pero una vez sabes cómo funciona se vuelve fácil.

de una forma tradicional, dice no es un sistema complejo, que Photoshop tiene un número de opciones limitadas y seguramente cuando las aprendo a todas, ahí me quedo, no? Ya está, entonces ella se manejar todas sus opciones, hacer editar fotografías, darle este aspecto, después puede seguir aprendiendo trucos, porque tampoco esos trucos quedan obsoletos, como ponerle una iluminación determinada a la foto y demás. Hasta de esta forma

hasta ahora era como habíamos aprendido nuestra relación con lo digital. Claro, ahora tenemos un cambio radical porque este nuevo software, casi todo el software que está apareciendo, casi todas las herramientas en línea e incluso el propio Photoshop que integraría ya tiene esta tecnología, no se puede aprender de la misma forma porque

según tú te relaciones con esa inteligencia artificial, según tú le pidas, según tú uses tu creatividad y tu capacidad de conectar ideas, así te responderás. Entonces, si tú le pides algo muy básico, lo que vas a obtener es algo muy básico. Y entonces, respecto a tu pregunta, tú dirás, pues esta idea no me sirve para esto, porque yo voy diciendo esto que yo quería y no lo obtengo.

y entonces puedes cambiar, probar, pero tienes que mirarte, mirarte a ti mismo y decir lo estoy haciendo correctamente, mi relación con ella es la adecuada, a lo mejor tengo que empezar a preguntarle a ella misma si lo estoy haciendo bien, que esto es una cosa muy buena en esa relación que nace ella misma.

Decodificados Podcast (09:12)
¿Así? ¿Esto

lo puedes usar como truco? Preguntar a la IA si tú estás preguntando bien.

Pedro Mujica (09:18)
Sí, sí le puedes preguntar a la guía, que prácticamente todo lo que tú usas se puede mejorar, está bien. Le puedes pedir que te enseñe una mejor forma para tu poder ir aprendiendo cada día a que esa relación prospere y mejore. Y puedes usar muchas o una. Fíjate que la que uses cabe.

será mucho más fácil, ¿no? Fluirá mejor contigo. Por ejemplo, si eliges chatgpt o eliges grog. Yo lo que recomiendo es tener una principal y después secundaria. Para que todavía la memoria no esté activa. Por ejemplo, chatgpt tiene una memoria muy simple, pero se irá activando. Posiblemente a lo largo de este año ganen en memoria. Entonces, es uno de los superpoderes de los que yo hablo, en superhumanos, en el libro.

tendremos una memoria extendida. El primer superpoder es el acceso a todo el conocimiento humano a tiempo real. Como tienes todo el conocimiento humano a tiempo real y con unos entes que razonan casi a nivel de doctor hablamos de la infinitud. Las posibilidades son infinitas. Entonces todo depende de ti. ¿Cómo pitas? Porque las opciones están ahí y son infinitas. Ahora ¿Cómo pides?

Ahí es donde comienza la relación, el aprendizaje. Si siempre usa los mismos trucos, la IA se va adaptar a esos trucos y no va a tener margen para innovar, para tener otros enfoques y demás. Entonces eres tú el que tienes que ir dando cada día un paso nuevo hacia entenderlas mejor, profundizar. Y ese es el camino correcto. Es como volver a ser

multidisciplinar en cuanto a que, por ejemplo, si has leído mucho en tu vida te va a venir genial porque controlarás mejor el lenguaje. Si ahora sabiendo que esta es la forma de usar la Inteligencia Artificial, empiezas a escribir de nuevo te va a venir muy bien porque ese ejercicio de escritura diaria lo podrás usar en esta nueva forma de usar el software, de usar el ecosistema digital. Y ahí es donde se empieza a producir la magia. Los resultados empiezan a mejorar.

y a mejorar.

Decodificados Podcast (11:22)
Y esto está relacionado también en una cosa que he leído que habías dicho, que es que todos deberíamos aprender a escribir código, a programar. ¿Por qué has dicho esto?

Pedro Mujica (11:36)
aprender a programar te estructura la mente de una forma determinada entiendes mucho mejor cuál ha sido la historia y el camino de construir estas máquinas de lo que fueron los primeros autómatas los primeros intentos de máquinas que hicieran tareas de forma computacional hasta ahora que ya hemos llegado a la revolución cognitiva

de la cognición, tener herramientas cognitivas que son simulaciones, cuidado con esto son simulaciones de cómo funcionan nosotros, entonces nos ayudan, nos complementan cuando yo digo si puedes aprender a programar vas a estructurar mejor la mente te va a hacer mucho más fácil crear esta relación que si no sabes nada de programación hoy en día hay muchas herramientas no code puedes crear aplicaciones, hacer muchísimas cosas sin saber de programación

Pero justo cuando tú peticiones, cuando construyas los prompts, lo vas a saber estructurar mejor, aunque uses lenguaje natural, si sabes algo de programación. Porque la relación que tienes con la IA es más profunda, porque sabes exactamente cómo está funcionando y por qué. Porque viene de lo que has aprendido en programación. Si te dedicas a la programación en sí, ahora mismo hay una diferencia enorme.

entre los jóvenes que están usando mucha guía para programar y los de la vieja escuela.

Uno de las viejas escuelas, como nunca usó IA, sabe dar muchísimas más soluciones a cualquier problema que se presente que uno que se ha apalancado en la IA solamente y no entiende realmente cómo es toda la construcción del software. La IA ahora mismo, por ejemplo, para programar, te da grandes soluciones e incluso puedes construir cosas casi al 100 % solo con IA, pero cuando tienes un problema se puede atascar mucho. Y si sabes programar…

sabes resolver el problema. Si no sabes, te puedes quedar… Y eso no es para programar, sino para cualquier tema que tú… Una investigación, lo que estés haciendo, para cualquier tema que tú peticiones, si sabes escribir código a un nivel básico, vas a entender mucho mejor cómo tienes que hacerlo.

Decodificados Podcast (13:24)
Es decir, no va a ser no vas.

Y esto casi es extrapolable y podría ser a cualquier ámbito en tu relación con la IA. Siempre le podrás sacar un mejor rendimiento si tú sabes de lo que le estás preguntando.

Pedro Mujica (13:46)
Exactamente esa es la clave. Si tú sabes exactamente cómo funciona y lo que le estás preguntando y cómo se estructura, siempre el resultado va a ser muchísimo mejor, pero muchísimo mejor. De hecho, ejemplo, en OpenAI los propios ingenieros definen las formas en las que deberían estructurarse las peticiones y las publican. decir, la mejor forma es esta que aquí pongas eso es

por la arquitectura, por cómo están construidas, por cómo aprendieron, etc. Porque al final son herramientas, es una tecnología. No es como nosotros, que todavía ni siquiera sabemos bien cómo funcionamos. Sabemos perfectamente cómo aprendieron ellas. Entonces, en base a ese aprendizaje es como estructuras las peticiones y cómo creas la relación con ellas. Creo que lo más fácil y sobre todo…

lo que más perduraría a largo plazo en tu aprendizaje.

Decodificados Podcast (14:40)
Y ya con esto nos vamos a convertir en cyborgs, es decir, en medio humano, medio máquina o ya lo somos. ¿Cómo lo ves tú esto?

Pedro Mujica (14:52)
Mira, yo por ejemplo tengo cadera de titanio y fémur de titanio porque me opelé. Sí, soy un T-800 en do esqueleto metálico recubierto de tejido humano vivo como decían en Terminator, como que era un T-800. Claro, vamos a ver, convertirse en cyborg porque sí está muy lejos. Esperemos que la humanidad nunca llegue a eso porque nos estamos arricando mucho.

Decodificados Podcast (14:58)
Ya eres medio Cyborg entonces.

Pedro Mujica (15:15)
nuestra biología tiene cientos de miles de años de evolución y la naturaleza es sabia si somos de una forma, posiblemente sea por razones que desconocemos porque ya sabes, la puesta de la artificialidad es muy reciente o sea que cuidadito con las cosas recientes en mi caso, pues mi cadera estaba ya rota es genial que la ciencia

me permita tener una cadera nueva y que me va a durar 70 años eso es una maravilla, lo sabemos si alguna persona tiene un problema de salud o el que sea, una patología, bla bla por ejemplo no anda o no ve y a través de la integración de determinada tecnología vuelve a o vuelve a ver es una maravilla ahí no hay problema pero una persona sana

A día de hoy, yo no le recomendaría que jugase con su salud en ningún aspecto. Y, evidentemente, integrarse a tecnologías es un disparate. Sobre todo en la…

Decodificados Podcast (16:11)
Claro, pero esto

está yendo en esta dirección y a toda velocidad. No tienes el neuralink de Elon Musk. Me parece que hace un par de semanas estamos ahora en finales de febrero 2005. Google también ya empezó con conexión cerebro máquina, leyendo pensamientos o tal, aunque es muy embrionario todavía. Pero pero ya estamos viendo que todo esto va a una velocidad alucinante, lo cual sí que casi que no sé si viste la serie Years and Years, donde hay una

una chica que se quiere digitalizar 100 por ciento, quiere quiere quiere que bueno irse y vivir en la nube y no en su en su en su cuerpo. Esto ya es distopia pura, pero claro, estamos en un camino que puede llegar a esto. Cómo cómo cómo tú crees que estamos realmente no tan lejos?

Pedro Mujica (16:54)
Sí, güey,

Yo creo que la adopción masiva es algo que ni recomiendo ni creo que la mayoría de la gente vaya a aceptar. Vamos a ver muchísimos casos, evidentemente, porque si la tecnología existe siempre habrá de todo. Neuralink cuando salió en junio de 2020, estábamos saliendo de la pandemia, del encierro de la pandemia, forzado, y yo tuve un encuentro en Radio 3.

con López de Mantrara que es uno de los neurocientíficos con mayor reputación en el país y otros con tertulios y justo hablamos de que hay que tener muchísimo cuidado ¿por qué? porque esa tecnología aparte de que pertenece a una empresa privada y hay que ver todos muchísimos aspectos derechos humanos, ética, regulación, leyes y tal

es una tecnología que no es gratis. Entonces si tú te integras en tu cuerpo, ya no estamos hablando de llevar un reloj que te lo puedes quitar y se acabó. Integras en tu cuerpo una tecnología y empiezas a depender de ella porque puede crear dependencia fuertísima a nivel de pensamientos, de esquemas neuronales, de hormonas, etcétera, etcétera. Ya pasa con las redes sociales y la dopamina.

si tu empiezas a crear una dependencia fuertísima de que esa tecnología está integrada en ti y esa tecnología pertenece a una empresa privada pues es un desastre total porque habremos dejado atrás nuestra libertad la libertad que nos dio la naturaleza que nos dio la biología de nuestro planeta que nos dio la chispa que surgió en este planeta que es única en esta nave en la que viajamos surcando la vía láctea de nuestra galaxia y demás entonces esto es trascendental es decir

lo que la naturaleza me dio deberíamos conservarlo a menos que sean casos que mejoren la calidad de la vida si hay una persona que tiene una patología severa que se integre lo que haga falta preferible que siga con nosotros pero una persona sana ni de broma pero en junio de 2020 Elon Musk en su web tenía una pequeña nota que decía cualquier persona sana que quiera integrarse en New Berlin pues estamos dispuestos

sin ningún problema. sea, tal cual. Y eso fue en 2020 y han pasado ya pues cinco años casi. Que va rápido sí, pero yo creo que el mercado si todo va bien, si todo va bien y no entramos en distopías, que es lo que estamos intentando, que no lleguemos a ninguna distopía, pero si todo va bien y hay regulación internacional, que esperemos que sí, y sobre todo hay equilibrio.

No creo que la mayoría de las personas vayan a demandar nada que ponga en peligro su integridad su integridad mental, su integridad física No creo que haya una demanda, por tanto estos proyectos como tantos otros bueno, ahí están pero no son el futuro de la interacción con el ecosistema digital para mí ni de broma, vamos Yo ya he visto todos los problemas que hemos tenido en realidades inmersivas, en realidad virtual con la CAFAS por temas

más de mareos porque no tiene la ergonomía suficiente, son incómodas de usar, etc. Y es algo que es externo a nosotros. Imagínate, que no lo veo. Integrarte, como lo han explicado mil veces, integrarte 200 filamentos en tu propio cerebro con un chip aquí, no sé qué. O sea, siempre habrá alguien que lo haga porque ya sabes, hay de todo. Pero una persona sensata, equilibrada.

con una educación, un bagaje, no creo que lo vaya a ser. No creo que haya una adopción masiva de esto. Eso es lo que yo pienso y lo que recomiendo. Lo que recomiendo.

Decodificados Podcast (20:44)
Y lo que

esperas que pase,

Pedro Mujica (20:46)
Claro. Había una serie, no sé si la llegaste a ver, Years on Years.

Decodificados Podcast (20:51)
Sí, sí, te comentaba antes, pero se cortó un poco, no sé si me escuchaste bien.

Pedro Mujica (20:52)
te recuerdas?

Decodificados Podcast (20:58)
Sí, sí, sí.

Pedro Mujica (21:20)
Ahí se ve claramente y digo es que no hay vuelta atrás, como te cambias un ojo. Y… pues imagínate. Yo no lo veo. Después Gushing the Shell y otras series pues siempre han jugado a eso. Pero claro, fíjate que en Gushing the Shell era porque no les quedaba más remedio. Por ejemplo, el que lleva los ojos biónicos es porque hubo una explosión y se quedó ciego. Y le implantaron a los ojos biónicos. Y a la comandante, bueno, pues le hicieron…

trastada, ¿no? la secuestraron, experimentaron con ella y tal para que acabase el cerebro en un cuerpo biónico, cyber, tal. Pero todo esto del mundo cyber, como lo hemos visto en la ciencia ficción, esperemos que no llegue. Que tú quieras aumentar tus capacidades y empieces a jugar con tu salud, no lo creo. Yo creo que cuando hablamos de aumentada, o sea, capacidades aumentadas es más en lo cognitivo.

y en algo que te falle o en un exoesqueleto, algo que puedas dejar que esté fuera de ti que no sea una primera piel, sino una segunda piel o una tercera piel por ejemplo un exoesqueleto para trabajar en entornos donde se requiere mucha fuerza te protege, protege tu espalda eso está maravilloso y así todos estos ejemplos si te falta un brazo porque lo perdiste en un accidente pues que te ponga uno pero quitarte un brazo para tener un brazo más fuerte

Eso es un disparate total. Pero bueno, si lo acabarán haciendo ya se verá. Ya se verá quién lo haga. Yo creo que no va a haber una demanda de cuerpos biónicos para perpetuar ni la vida ni nada. Porque lo de perpetuar la vida también se dice que podría llegarse, podríamos llegar en breve a esa inmortalidad. Pero yo no me lo creo. Habrá que verlo. Hay mucha gente que tiene esa idea y tal.

Y lo de que te subes a la nube de forma digital pues volvemos a lo mismo, déjate ser tú pienso. Porque el ser humano no es una serie de datos, hay muchas más cosas que ni siquiera conocemos. Entonces esa chica o busca protagonismo o habría que tener un par de conversaciones con ella y explicarle una cuarta cosa. Porque no somos datos, no somos un conjunto de unos giseros en la nube, somos más.

Decodificados Podcast (23:23)
Y Pedro y ahora saliendo un poco de lo que es implantarse cosas a uno mismo, sí que está también avanzando mucho lo que son los robots humanoides, no? Hasta tal punto que publicaste algo hace un par de días del CEO de Future, no? Se llama la Figuero, la empresa de robots humanoides que está.

prometiendo prometió ahora que en este mes que viene vamos a ver una cosa increíble que no se ha hecho jamás con los robots y uno ya se pone a pensar en cualquier cosa ya en Asimov, a ver con qué nos va venir. Cómo tú esto? Cómo lo ves esta parte? Tú crees que ahí sí que puede haber más demanda y nos podemos ir a una una escala más masiva de la.

de la aceptación de este tipo de robots humanoides.

Pedro Mujica (24:07)
Si, ahí si que va a haber un gran cambio. que todos vamos a… Si se puede, pero bueno, se tienen que producir muchas situaciones futuras y ahora mismo todo es una incertidumbre. Pero si se puede, todos vamos a tener un humanoide a nuestro servicio.

Decodificados Podcast (24:23)
¿En serio?

¿Tú crees esto? ¿Sí?

Pedro Mujica (24:25)
Ya verás que sí se puede y todo se hace de forma correcta, sí. mira, por ejemplo, personas mayores que viven solas, que por ejemplo Japón está lleno, tener una tecnología física, una inteligencia artificial física, como la llama NVIDIA, Una tecnología física con la que establecer una relación conversacional bastante parecida a lo que es una conversación humana.

y además la está ayudando físicamente con una fuerza increíble eso es muy difícil que nos neguemos porque esa persona tiene a lo mejor 75 años tiene problemas de salud, le cuesta el día a pero sin embargo este gadget, esta herramienta puede ir a comprar puede levantarlo de la cama, puede acostarlo, puede ducharlo, puede llevar una casa

con muy buen nivel de mantenimiento y encima puede hablar con él le puede guardar los recuerdos, ejemplo si esa persona empieza a tener Alzheimer puede funcionar como un gestor de memorias pasadas para irle, le puede enseñar hay muchísimas ventajas en la IA física además que es un viejo sueño, siempre lo digo, es algo que siempre hemos querido hacer, que lo inanimado

adquiera inteligencia y crear autómatas viene desde el antiguo Egipto. Por tanto, hay unas ganas tremendas de que sea así y sí que hay muchas utilidades. Después viene la parte negativa, todo, el cuchillo. El cuchillo y siempre lo veis también como herramienta. El cuchillo tiene muchísimas cosas positivas, evidentemente, pero también negativas.

Entonces, en nosotros está. bueno, sí, lo usamos para cosas negativas, pero debe ser uno de cada un millón. Pienso que usa el cuchillo negativamente. Casi todos tenemos cuchillos en casa y los usamos a diario. Y creo que a muy poca gente se le ocurre hacer cosas con ese cuchillo. Eso por una parte. La fuerza laboral, los trabajos. Que es el otro gran debate y ahora me pregunta.

eso es un melón enorme, si quieres lo abrimos. Vale, ahí también hay mucho que hablar. Evidentemente la IA física en muchísimos trabajos. Pero solo voy a poner el ejemplo de la primera revolución industrial. Habían 60 millones de caballos en Estados Unidos. 60 millones de caballos. Después del desarrollo de la primera revolución industrial en unos 20 años quedaron 2 millones.

desapareceron 58 millones de caballos y todos los trabajos relacionados con la atracción animal con caballos y se cambió por la atracción con vehículos de motor entonces quien tenía un establo acabó de tener un taller entonces tenemos que encontrar una forma nueva, nuevo contrato social para que esto no irrumpa y no desplace porque además si nos desplaza

y perdemos los trabajos que es el gran miedo, gran titular, primero ahí sí que entraba una distopía porque sería una debacle económica tan grande que todos dejásemos de tener poder adquisitivo por la pérdida masiva de trabajo, por la erupción de humanoides, que es un escenario que nadie quiere ni siquiera pensar ni separar. Entonces están buscando soluciones. Pregúntame que querías preguntarme algo al respecto.

Decodificados Podcast (27:36)
Bueno,

es que has abierto un melón, me voy a tener que aguantar. Antes de entrar en esto del trabajo y del peligro de la IA para el trabajo futuro, bueno, presente ya casi, cuando estabas hablando de la IA física, que hay, yo le veo una gran diferencia con el cuchillo, como bien has dicho, el cuchillo, uno de un millón o lo que sea, lo usa para matar y hacer el mal. Ahora bien.

Pedro Mujica (27:39)
No hay un tipo.

Decodificados Podcast (27:58)
Cuando tú tienes robots humanoides conectados, esta persona, es decir, tienes esta persona un millón, pero que puede dominar un millón de humanoides a la vez porque porque los puede hackear, porque entonces sí que el peligro potencialmente es mucho mayor y preocupa más saber yo. Es un tema que yo no estaría cómodo con un bicho así en mi casa.

Pero sí que también es verdad todo lo que has dicho ayuda mucho.

Pedro Mujica (28:27)
Ehh… sí.

Claro, que todo entraña un riesgo y estamos sometidos a peligros constantes. ejemplo, la carretera y el tráfico es uno de los mayores asesinos que existen y nos hemos adaptado. Yo circulo en bicicleta por la ciudad y me enfrento a muerte. ¿Hablo en serio? A muerte, es decir…

Decodificados Podcast (28:49)
Sí, te juegas la vida con la bici. Sí, sí.

Pedro Mujica (28:52)
como me despiste un solo segundo me atropella un autobús, un coche y me mata

Eso era, por ejemplo, lo que se decía en la primera revolución industrial. Estos vehículos son máquinas de matar, esas velocidades te dan un infarto porque había desconocimiento y porque no se podía pensar en una sociedad que integrase ese vehículo. No se podía imaginar ciudades llenas de esos vehículos. Era una locura. Está ocurriendo lo mismo. Es decir, claro que hay peligro si te hackean el humanoide y el humanoide…

porque está hackeado te mata hay que ver por qué se va a producir ese caso es decir un hacker a día de hoy un hacker o un gobierno qué interés tiene en hackear el humanoide que tienes en casa yo creo que es más interesante a nivel de hackeo irte a tu cuenta bancaria y quitar todo el dinero por ejemplo y así tantas cosas es decir

Los hackers normalmente si vamos a los hackers, después del gobierno controles otro melón enorme, es un orden mundial y tal. Pero los hackers en sí hacen acciones muy, muy pensadas y normalmente que les van a dar unas ganancias enormes porque se la están jugando. Los hackers de sombrero negro, si un hacker hace algo en sí, está cometiendo un delito y él lo sabe.

Entonces el que hakea algo en contra de la ley está intentando llevarse el máximo de beneficio posible. Por tanto, ¿qué gana un hacker hackeando tu mano? Si tú eres una persona más mal corriente.

Decodificados Podcast (30:27)
Pero fíjate el ejemplo que dabas antes, no? El para para gente que va a utilizar esto seguramente y es uno de los usos que tiene mucho sentido el pues de asistente de casa y de confidente y de memoria. Entonces claro, tú le puedes dar lo mismo que tienes ahora en un papelito. El abuelo tiene su código de la tarjeta y su cuenta bancaria y tal. Lo tendrá en el humanoide, lo cual el acceso para un hacker es mucho más fácil. No tiene que entrar casa por casa.

y buscar el papelito.

Pedro Mujica (30:55)
Claro,

claro, pero fíjate en todo. yo por ejemplo tengo los altavoz de Alexa Yamazaki.

Decodificados Podcast (31:02)
Ajá.

Pedro Mujica (31:03)
Y desde la primera vez que los instalé, mi mujer decía, nos están escuchando por eso. Y esto fue antes de descubrir que los smartphones también nos escuchaban. Entonces yo le decía, mira, somos anónimos, ¿qué más da que nos manden publicidad? Nadie nos conoce, Bill Gates no nos conoce, Sergey Uri no nos conoce, no quiere conocernos, no quiere saber nada de Canarias, no saben ni dónde estamos. Claro, eres parte del Big Data, te va a llegar.

Decodificados Podcast (31:11)
que realmente te escuchan.

Pedro Mujica (31:29)
todo el ruido de internet, eso sí, pero que un hacker se interese por nosotros es muy difícil. Después tengo un amigo de alto nivel en seguridad que me decía, yo eso en mi casa no lo pongo ni yo, yo digo, ya, pero porque tú, ¿sabes? extremas las precauciones y tal. Pero mira, ¿qué pueden hacer? Escucharme. Si yo, las cosas que digo son aburridísimas, si tengo una vida muy normal.

Yo tengo un nivel de seguridad respecto a lo que es realmente peligroso enorme enorme porque soy evidentemente tecnólogo informático por ejemplo no te voy a decir pero por ejemplo lo que yo de verdad protejo ningún hacker vía digital puede hacer nada Amazon que me escucha pues vale

sé que no estoy poniendo en peligro nada, WhatsApp por ejemplo, usamos WhatsApp y se lo está quedando todo meta y todo el mundo, vamos a usar Signal y tal pero vamos ver tú qué conversaciones tienes en WhatsApp hola mira ahora te veo y tal

Decodificados Podcast (32:23)
Y tú crees.

Pero tú crees que no hay no hay una cosa más. Yo también no creo que nadie se tome la molestia de escuchar lo que pueda estar diciendo para para sacar algún redito, no? Pero sí que más allá de esto y los hackers y tal, es un poco exagerado, no? Pero sí que hay un tema más conceptual, no? De ética. Oye, yo no quiero que una empresa privada y iba a decir menos un gobierno o tampoco un gobierno, ni menos ni más.

e tenga acceso a mis datos privados, conversaciones, lo que sea. Es un tema más conceptual que de peligro, porque si empiezas con este paso ya estás dando lo de lo de siempre en lo que si tú no pagas, eres tú el producto. Entonces tienes todo esto y pues Amazon lo está usando. Todos ya nos hemos.

Pedro Mujica (33:07)
Claro.

Decodificados Podcast (33:12)
alucinado más de una vez cuando hablas de algo con un amigo y de repente cuando te conectas a lo que sea a Google, a Instagram, tal te salen anuncios de esto y dicen pero pero como diablos lo has sabido si yo no lo he buscado. Esto a mí intrínsecamente me molesta muchísimo que no puede ser. Me están robando, no me están robando nada físico, pero pero me están robando una cosa que yo no he dado mi autorización para esto y y yendo en este camino de la inteligencia artificial de que todo esté más conectado.

Pedro Mujica (33:18)
se han elaborado mis ideas más.

Gracias.

See ya.

Decodificados Podcast (33:41)
Es una autopista para que pase esto.

Pedro Mujica (33:43)
Evidentemente, pero es la parte negativa. La parte negativa de todo esto. No hemos descubierto nada por hablar de descubrimientos, ni hemos inventado nada en toda nuestra historia que no tenga pros y contras. Eso siempre ha sido así. Ahora hay que valorar los pros y los contras que tenemos ahora mismo, que es donde estamos. La regulación y la ley es fundamental.

Decodificados Podcast (33:59)
¿cierto?

Pedro Mujica (34:09)
Para evitar las malas praxis de las empresas, los abusos, sólo tenemos la ley, la ley y el gobierno y la conciencia ciudadana que demanda que la ley vaya más rápido porque ya todos sabemos que nos están manipulando de alguna

Decodificados Podcast (34:24)
Ahí

está el gran tema. Yo creo que los gobiernos no pueden ir a esta velocidad.

Pedro Mujica (34:28)
No pueden, no pueden. Pero quien sí puede ir a esta velocidad somos nosotros los usuarios, los consumidores. Y al final una empresa no tiene ningún interés en ir en contra de sus consumidores. Puede tener malas prácticas y intentar jugárnoslas continuamente porque siempre es así. Pero esto ha sido de tiempos inmemoriales. decir, tú cuando llegas al mercado de Roma…

el vendedor te quería vender pero si te podía engañar mejor o seducirte, no? entonces somos así y ya lo llevamos desde el comienzo, no? las empresas siempre van a intentar seducirte, venderte, manipularte, jugar siempre van a tener prácticas poco éticas imposible que no las tenga porque sus objetivos son otros aunque ahora está de moda integrar

figuras y áreas que velen por la ética y la sostenibilidad sigue siendo maquillaje. Conozco casos que son mejores que otros, pero no, porque siempre se busca el beneficio y así hemos llegado hasta aquí. Entonces, ya es un logro que exista, una conciencia general que diga

hay que poner foco en la ética y la sostenibilidad. Ética y sostenibilidad. Y las buenas prácticas y la privacidad y los derechos digitales fundamentales. Estamos hablando de eso y yo llevo ya ocho años hablando de todo esto. Ese es el comienzo en que nosotros despertemos, que es de lo que va el libro supermano, un despertar de la conciencia que nosotros despertemos y demandemos otras prácticas. Entonces ahí la empresa irá tras esa demanda y cambiará la oferta. Es decir.

Si somos capaces de penalizar a una empresa que se descubramos que se ha pasado la raya porque ha abusado nuestros datos o nuestras suscripciones para crear armas, tú como ciudadano si tienes una conciencia respecto a todo lo que está pasando y unos ciertos valores, podrías penalizarla, es una opción.

podrías penalizarla y si hacemos esto viral mejor dándote de baja su suscripción y buscando alternativas entonces por eso los monopolios no deberían existir porque siempre el consumidor, el usuario, el ciudadano debería tener alternativas para poder ejercer esta demanda y estos derechos pero evidentemente lo que ya sabemos que ocurre va a seguir ocurriendo si una empresa tiene la oportunidad de

mejorar sus beneficios, sus ganancias a través de una práctica y esa práctica está en el límite de lo que es correcto y lo que es incorrecto posiblemente acabe por conocimiento o no ya se vería, habría que demostrarlo haciéndolo y esto se ha repetido infinitamente porque siempre estamos sacando a la luz nuevos casos por ejemplo la farmacológica con Dobsick

de los hopi-oids en Estados Unidos que fue un escándalo tremendo y ahí quedó y tal y eso sí que iba directamente contra nuestra salud y evidentemente las tecnológicas no se iban a quedar fuera de todo ese juego a lo mejor al principio sí como Google que empezó con Don’t Be Evil no sea Malvado o OpenAI que empezó con Open Inteligente que hizo la abierta para todo y ahora es más close que nunca entonces

Claro, las ideas comienzan, siempre los proyectos comienzan con buenas intenciones, pero el propio sistema los cambia.

Decodificados Podcast (37:42)
Y Pedro, ahora para entrar un poco más también en el tema de ética, relación con la IA yendo en dos ámbitos, uno primero en el desarrollo de la propia IA y luego aplicando, mirando un par de temas aplicados a la IA, lo cual tú en el desarrollo de la IA hay un par de cosas que me gustaría ver cómo las ves. Primero, las decisiones algorítmicas.

Porque al final todos los que desarrollan, tú lo has dicho al inicio. Oye, yo estoy intentando un poco barrer para Europa para que no todo esté en manos de americanos o chinos, porque por su manera de hacer las cosas y por lo que sea. Entonces sí que es verdad que hay un en general en desarrollo suele haber un sesgo, porque el perfil de la gente que desarrolla, pues si son todos los monstruos del Silicon Valley, son todos los mismos, son hombres blancos de 30 años.

Pedro Mujica (38:04)
Mm-hmm.

Gracias.

Decodificados Podcast (38:30)
lo cual le están metiendo un sesgo ahí. ¿Cómo nos podemos asegurar que esto no pase?

Pedro Mujica (38:35)
es bastante difícil pero se está logrando hubo un ejemplo, esto ocurrió creo a principio de la década 2000 y fue en Japón el equipo de desarrolladores, bueno, pusieron en el mercado pues un altavoz inteligente, uno de los primeros y tal y el equipo de desarrolladores era, compuesto todo por hombres

y todo el entrenamiento se hizo con voces de hombre.

y cuando salió el producto al mercado, que llegó al market, no reconocía las voces de las mujeres. Estamos hablando de algo que es la mitad de la población mundial. Y hubo que retirarlo, pero claro, se convirtió, se viralizó hacia el gran ejemplo de que los sesgos vienen desde el propio desarrollo, el propio entrenamiento de estas tecnologías. Después aquella famosa IA que se volvió racista porque había sido entrenada con los datos de Twitter.

La IA se volvió racista, no, la IA no es racista, la IA refleja lo que somos. El racismo estaba ahí en Twitter y si tú alimentas a un bebé que no tiene nada con eso, eso es lo que sigue. Esos son los patrones que esta herramienta considera que son importantes para dar las respuestas, tener razonamientos y demás. Los sesgos hay que combatirlos, evidentemente hay que…

de eso se trata cuando hablamos de integrar la ética de la sostenibilidad en las empresas y en los desarrollos una de las cosas que más hay que vigilar son los datos con los que se van a entrenar a estas inteligencias ese big data y después el diseño algorítmico cómo se van a tratar esos datos porque al final sabes perfectamente que la inteligencia tiene sus redes neuronales

tiene todos sus reglas neuronales, pero es una arquitectura mayor que tiene unos algoritmos de decisión de funcionamiento y siguen entrando constantemente datos no sólo los del entrenamiento sino todos los posteriores. Bueno en toda esta arquitectura hay que vigilar mucho lo que entra los datos, cómo se tratan esos datos y también hay que vigilar mucho lo que sale, las respuestas y ahí es donde…

estaría toda la parte algorítmica, qué hacemos con estas respuestas si vamos a permitir, no permitir, crear filtros, destruir estos datos sintéticos, transformarlos, realimentar, no realimentar, modificar, dar avisos, es decir, se está haciendo, por ejemplo, los HGVT, aunque hay psicología inversa, pues no le puedes pedir que te haga la fórmula de una bomba, después hay trucos porque al final te saltas por agujeros de seguridad esos filtros, arquitecturas, esos algoritmos.

Y así con todo. Claro, hemos tenido grandes problemas con los algoritmos. Pero si te fijas ahora estamos en otro ecosistema. El de las redes sociales fue un desastre. Y sigue siendo un desastre porque cuando subió Trump, pues sabes que Zuckerberg dijo que ella quitaba la censura de meta, ahora estamos con las notas de la comunidad y todo eso. Desastroso, Entonces ahí los sesgos y las polarizaciones y todo lo terrible, pues escampa sus anchas, ¿no? Pero…

redes sociales en la década anterior, en 2010, vimos que hubo un enorme problema porque todos esos datos sintéticos se iban trasladando, se empezó a usar Inteligencia Artificial, porque ya el Deep Learning empezó a ser importante y se empezó a usar Inteligencia Artificial, ejemplo, en recursos humanos para ver curriculum de forma automática y

los sesgos que habían en los datos en el entrenamiento de esas guías pues hacía que se rechazase un curriculum simplemente por cuestiones que ya sabemos que no se debe o por raza o por edad o por lo que fuera procedencia y tal pues eso hay que cambiarlo queremos un mundo lo más inclusive posible pero esas son las ideas a las que pienso o quiero pensar que todos tendemos hacia el mejor mundo posible, mejor futuro posible

El camino no es fácil porque estamos en un tirillo floja y ya sabemos que es un problema, pero ahí está la educación, la nueva educación y ser más éticos y sostenibles que nunca, que esto no paro de repetirlo porque ya estamos en un punto muy complicado, medioambientalmente es complicadísimo ahora mismo la situación en la que estamos, es muy peligrosa.

Decodificados Podcast (42:14)
No.

Pedro Mujica (42:33)
y con una tecnología cognitiva creciendo sin parar, es la inteligencia estetis, también hay peligros que que estar muy atentos a ellos. la ética, la ética y no tener prácticas que no nos benefician para nada es súper importante. Por ejemplo, si yo tuviese una empresa y desarrollo con un modelo open source, le hago un reentrenamiento y desarrollo mi propio modelo adaptado para tal cosa.

Yo como empresario tengo una responsabilidad ética enorme y también política colectiva. ¿Por qué? Porque si yo para ganar más dinero no limpio los datos y me da igual los sesgos que traigan y tal o uso fuentes de… no, y me da igual todo porque lo que quiero es rápidamente ganar dinero y lo introduzco en el mercado y encima tengo prácticas incorrectas usando lo que ya sabemos mecanismos de propaganda o…

etcétera etcétera claro que voy a introducir algo malo en el mercado pero quien lo ha hecho? ser humano porque he preferido ganar dinero que aportar algo positivo a la humanidad entonces nos tenemos que mirar a nosotros mismos y decir vale antes aportaba algo malo porque estabas por ejemplo hace 50 años medioambientalmente estabas nada concienciado y ocurría que estabas en mitad del pacífico y cojones

ya todo el plástico y lo tirabas aquí, de un barco o pesquero o lo que fuera. Ahora tenemos una isla del tamaño de Francia en el Pacífico, de plástico. Las consecuencias son las que son. Ahora es cuando hay que poner foco en la ética, es decir, ya no es si ganan más o si ganan menos, sino si todos podemos acabar teniendo una cierta calidad de vida como siempre ha sido en este planeta. Porque también otro melón es el de la energía que consume la inteligencia activicial.

que está relacionado al medio ambiente. sea, problema no es nada fácil, es muy complejo. Y recuerda que difícil y complejo son dos cosas totalmente distintas. Lo complejo cambia cada día, a cada momento. sea, todo lo que es su estructura y variables cambian constantemente. que ahí la guía nos puede ayudar. Entonces, el camino para mí es empezar por uno mismo. Más que nunca nos tenemos que ver a nosotros mismos y decir hacia dónde voy.

en que mundo quiero vivir por tanto me toca a mí aunque somos yo 1300 millones, otra gente no lo haga me toca a mí ser lo más correcto posible, lo más íntegro posible y si puedo dar ejemplo mejor aunque falle porque todos fallamos y y ser 100 % íntegro es muy difícil pero hoy toca eso ayer veía un vídeo de cómo dar ejemplo un padre a unos hijos entonces eran ejercicios

y era buenísimo pero el padre se ponía en una escalera mecánica donde había una chica delante con una minifalda y entonces el padre le enseñaba al niño mira no esto no se debe ver vamos a poner la chaqueta delante después salía una señora con bolsas y lo llevaba a ayudar a la señora con la bolsa y le explicaban no la señora está muy cargada nosotros tenemos más fuerza eso es dar ejemplo y ya hemos visto lo que pasa si abandonamos a la gente joven en un sistema educacional que está en experimentación

Es peligroso, Es decir, hay que velar por la estructura familiar, que velar por los jóvenes, por los nuevos, porque eso cambia en el mundo. Si tú no le das la educación más correcta posible o la más sólida posible a un joven, un adolescente o a un niño, después te va volver como un boomerang más adelante. Y a ti, que a lo mejor sigues y ya tienes una aceptada.

La educación es un pilar, la solidaridad es otro y volver a los valores humanos serían otros, los tres pilares del tecnohumanismo y con el foco en ética y sostenibilidad, ética y sostenibilidad. Y esto es un mantra que repito constantemente, lleva a ser un pesado, pero hay que ser pesado con un mensaje tan importante y yo creo que claro para arrojar luz, esperanza y posibles soluciones, pero fáciles no son. Nos enfrentamos a una época histórica

que es muy compleja y bueno, yo apuesto por el ser humano por su enorme creatividad, su enorme talento y que juntos siempre hemos logrado superar unos desafíos gigantescos ¿por qué este no lo vamos a lograr? superar el desafío en el que nos encontramos ahora mismo entonces yo apuesto por nosotros por ti, por mí y por todos

Decodificados Podcast (47:00)
Ojalá. Me parece una buena apuesta. ver, ojalá salga muy bien. Si una IA toma una decisión que erronea, que tiene consecuencias graves, ¿quién es el responsable? ¿el desarrollador, la empresa, el usuario, el gobierno que lo ha dejado hacer? pues, por ejemplo, los más típicos que tenemos últimamente son accidentes con coches autónomos.

¿Quién es el responsable del accidente?

Pedro Mujica (47:27)
Bien, vamos a hablar de Chernobyl. Para hacer una analogía. Los últimos documentales de Chernobyl no estaban protegidos desde un principio. Y la propia KGB que estaba allí decía, esto va a explotar sí o sí. ¿Quién fue el responsable? Pues hubo muchos responsables, desde el propio gobierno, supervisores, querer ir rápido para ganar la carrera nuclear.

los propios trabajadores, la KGB, sea todo el conjunto de personas que estaban relacionadas con ese entorno tuvieron parte de la responsabilidad. Y al final se quedó como… un accidente. Era un accidente porque tenía unas paredes de así… de bloque del 8, de una casa. De eso era lo que protegía el reactor nuclear que tenía fisuras, bla bla. La IA toma una mala decisión, una decisión gravísima.

por abrir las compuertas de la presa de Los Ángeles y se produce un caos terrible eso no debería ocurrir nunca por ejemplo hablamos de inteligencia artificial integrada correctamente y humano céntrica a aquella que nunca podrá tomar ese tipo de decisiones porque al final de la cadena de decisiones, la cadena operativa siempre debe estar una persona

siempre eso no puede ocurrir no puede ocurrir que una IA esté conectada a la apertura de un desastre o abrir la caja de Pandora eso es básico por ejemplo otra analogía la tercera guerra mundial no estalló en los años 90 porque una persona se negó a pulsar desde un submarino atómico soviético en el pacífico el botón final el sistema había fallado

el submarino se alertó el DEF CON-2 o lo que fuera que tenían de que Estados Unidos estaba atacando con misiles en la Unión Soviética y ellos tenían que lanzar los suyos si hubieran lanzado los suyos por ese error entonces sí se habría desatado pues la persona ese oficial soviético dijo no vamos a salir a superficie y quiero verlo con mis propios ojos no me voy a fijar de las máquinas

no puedo pulsar este botón sin verlo con mis propios ojos. Y eso se sabe muy poco. ¿A día de hoy cómo evitar eso? Pues ya te digo, es decir, en todas las instituciones, empresas, gobiernos, en todo, tiene que haber una persona siempre. Que esto también está relacionado con el cambio de la fuerza laboral, es decir, hay nuevos puestos como el supervisor de las decisiones de la IA que todavía no se están cubriendo.

estamos en transición, así ya empezamos a mantener al menos lo que nos ha funcionado hasta ahora, si hay una persona, esa persona no va a abrir las compuertas por ningún fallo extraño de la presa para que muera media ciudad de Los Ángeles, por tanto la IA no debería llegar nunca a cosas críticas, como por ejemplo poder tomar el control de un avión y estallarlo contra unas torres, eso debe cambiar.

o por ejemplo en la conducción autónoma es más complicado porque todo se desarrolla más rápido pero el ser humano no debería dejar toda la conducción al 100 % en manos de la guía y más cuando hay tráfico denso deberían haber modos manual, semiautomático, automático, etc para que puedas coger el control rápidamente

Decodificados Podcast (50:28)
Pero igualmente esto, Pedro, por ejemplo, el famoso el dilema del tranvía, que tienes un tranvía que está lanzado y va a atropellar a cinco personas y tú tienes la, bueno, tienes la capacidad de coger una palanca, desviarlo y meterlo en otra vía donde hay otra persona y bueno, pues tomo esta decisión, no la tomo, mato a esta persona, no la mato. Al final me imagino que eso van a ser cosas que van a entrar ahí ya con esto. Pero sí que es verdad que cuando se da en la realidad.

Igual esta supervisión humana no siempre se va a poder dar porque cuando pasa un accidente, por definición, pasa muy rápido. Entonces tú no puedes decir oye, pues ya no puedo tomar la decisión la IA, tú coges el volante y joder, ahora a estas alturas me das el volante, yo no puedo reaccionar ya.

Pedro Mujica (51:02)
¡Nada!

hombre no es es coger el volante sino es poder activar algo que haga que la guía por ejemplo frene o tome otra decisión distinta que no tenga que ver con esos dilemas el dilema en sí es casi resoluble porque si siempre alguien tiene que perder pues eso lo que hay no hay una solución de que aquí ganaron todos y eso ocurre todos los días es decir

efectos que no puedes no puedes evitar cosas que suceden y dices mira es que se le iba caer una lavadora encima le metí un empujón para salvarle la vida pero se estrelló contra la pared y se abrió la cabeza pues si la opción era o se abre la cabeza o le cae la lavadora encima que hace la empuja o no la empuja no tú le intentas salvar la guía siempre intenta tomar la mejor decisión posible si a veces

porque todavía no está desarrollado al nivel que queremos, toma una decisión equivocada y mata en vez de a 5 a 1, es lo mismo que haría un ser humano. estamos extendiendo lo que nosotros haríamos a una herramienta nuestra pensando que esa herramienta está funcionando mal y no ya eso es parte de la vida. La vida es como es. Cuando tú sales a la calle te estás poniendo, arriesgando, cuando respiras aire. Cuando se den esas situaciones.

Yo creo que lo mejor, y hecho tengo amigos trabajando en esto, lo mejor es que la conducción autónoma no llega al 100%, que siempre haya mecanismos y están por desarrollar y pensar y diseñar, que siempre haya mecanismos que le den el control al ser humano y que usen también quizás días más sencillas para que sea lo más rápido posible. sea, mucho que estamos al inicio, hay mucho todavía que pensar. Una cosa que pasaba con los Teslas, por ejemplo, es que se actualizaban.

actualizaban el sistema operativo a través de Starlink genial porque se te actualizaba solo y fantástico transparente, todo pensado fantásticamente pero no pensaron que si tú ibas por el desierto con el Tesla y se actualizaba y el satélite giraba y se perdía la conexión la actualización bloqueaba todo el sistema y como no había modo manual te quedabas tirado en el desierto sin poder arrancar el coche manualmente

ostras, no habían pensado en ello ya porque estamos evolucionando y desarrollando todas estas herramientas. Entonces, ¿quién tiene la culpa ahí? El pobre hombre tirado al desierto que lo tiene que ir a buscar tal. Le pidió responsabilidades a la empresa, pero la empresa le dijo ya, pero es que hay tantas cosas que pueden pasar que esto lo iremos arreglando poco a poco. En el caso de la pregunta que tú dices, una mala decisión grave, grave, gravísima. ¿Quién tiene la culpa? Yo creo que la responsabilidad es compartida.

Pero evidentemente nuestro sistema dice, oye la empresa tiene que tener unos seguros y tiene que dar coberturas porque no vas a encarcelar al empresario, pero sí tiene que haber seguros, coberturas, indemnización, etcétera, etcétera. Si es a gran escala, ya entran todas las aseguradoras, entran al gobierno, entran los planes de ayuda, entran a emergencias. Entonces imagínate que lo de la dana en Valencia hubiese sido producido por un fallo de la IHA.

que no alertó que vamos a ir a la empresa que desarrolló esa IA. No, es compartida porque es un desastre de tal magnitud que no soluciona nada que pongamos al desarrollador o a la empresa desarrolladora en la cárcel. Vale, pero el problema lo tenemos. Entonces, es difícil porque es una herramienta en desarrollo. Entonces, fallo pa ver. Fallo pa ver. La IA no es perfecta y nunca lo va a hacer.

vamos a tener muchos fallos, entonces es pensar y diseñar todas las situaciones posibles de riesgo e ir viendo como las vamos solucionando. Yo soy por ejemplo humano céntrico, yo pienso que toda la inteligencia artificial debe ser humano céntrica porque nosotros ya tenemos cientos de miles de años de experiencia en solucionar muchas situaciones, una adaptabilidad enorme, neuroplasticidad, resiliencia, flexibilidad, tenemos muchas herramientas cognitivas buenísimas.

yo creo que el ser humano en ese sentido no puede ser desplazado, un error total la automatización al 100 % no existe ya hay casas de empresas que han automatizado al 100 % y tienen que volver a las personas porque hay muchas casuísticas que necesita personal pero sí que va a haber un cambio de cómo es una empresa de día a día y cómo acabará haciendo y en general toda la sociedad pero eso es lo que pienso yo responsabilidad compartida y a día de hoy

por favor, no pongamos a la inteligencia artificial a tomar decisiones complicadas que sea un gran riesgo para nosotros. Eso no se debe hacer.

Decodificados Podcast (55:37)
Y Pedro, tú a nivel de regulación, que lo comentamos ahí un poco antes, ¿quién crees que debe establecer las reglas de la IA? ¿Gobiernos, las empresas privadas, una entidad global? ¿Cómo lo ves?

Pedro Mujica (55:49)
Los gobiernos, no, las empresas no. Las empresas de hecho están pidiendo ya que se las regule, que se regule todo el desarrollo de la inteligencia artificial y que sean los gobiernos los que nos protejan. Europa en eso intenta ser líder y bueno lo ha sido siempre y intenta seguir liderando. que ser los gobiernos, los legisladores, la ley.

Sí, tenemos un problema porque todo va muy rápido, en un momento dado que se nos escape, que haya un frenazo total y punto. decir, fíjate con la pandemia. Nadie pensó que de un día para otro nos iban a decir cada uno que se quede en su casa. Entonces, hay mecanismos para cuando la casa se pone muy muy complicada, que haya una parálisis en plan push the red bar.

Decodificados Podcast (56:35)
Tú crees que tú crees

que estamos en esto? Bueno, en el los inicios del año pasado que hubo esta esta carta de los principales, aparte empresario de ella, que dije que tendríamos que parar seis meses. Es imposible, el tren ya está en marcha, ya no se puede parar esto.

Pedro Mujica (56:48)
El tren

está en marcha, no se puede parar, no se puede parar, evidentemente, o sea, deberíamos parar para reflexionar, no, el tren está en marcha y riesgos y peligros hay, ¿vale? Pero también puede salir bien, entonces, como todo, pero mira las situaciones geopolíticas y la guerra, estamos en lo mismo y lo que hablaba antes del medio ambiente, estamos en lo mismo, decir…

la inteligencia artificial es otro de los riesgos existenciales pero no es el único, es como todo el foco, estamos súper bien y ahora aparece esto, no, eso no es real, tenemos riesgos existenciales uno es la guerra, la guerra automatizada y la situación geopolítica mundial que es un riesgo enorme

Otro es el medio ambiente, no nos podemos destrozar el planeta porque es el único que tenemos, no hay otro sitio donde vivir. Otro es la energía.

necesitamos energía porque queremos mantener nuestro nivel de vida nadie quiere perder sus privilegios y ahora se suma la inteligencia actividad que son herramientas cognitivas es decir, ostras, estos nuevos terrenos hay que pensar muchísimas cosas y ya estábamos pensando en mil historias que tenemos que resolver viene una más a sumarse para agrandar la lista de cosas en las que tenemos que pensar eso lo que ha sucedido

ni ficción terminator, ni nada de simplemente tenemos que resolverlo

Decodificados Podcast (58:08)
¿Tú crees que es una de las herramientas que puede ayudar a resolver los otros problemas anteriores?

Pedro Mujica (58:11)
Sí,

sí, Totalmente. Mira, yo voy a hacerte una confesión que este es un podcast que lo merece. Claro, super humano. Bueno, voy a enseñar mi libro porque ya ahora mismo creo que me tengo que ir en breve, que me da mucha pena porque estoy súper a gusto. Vale, este primer libro es el despertar de la conciencia, es una trilogía, la trilogía del cambio.

Después vendrá un segundo libro que va a explicar posibles soluciones a todos estos problemas relacionados con la inteligencia artificial, tocando muchos aspectos, por ejemplo el de la fuerza laboral. Soluciones con las que voy a crear papers científicos primero, para que sigan el método científico, no cosas que yo escribo en prosa.

Y después el tercero es nueva era porque hay un melón que no hemos abierto que es el de la cuántica, la de la computación cuántica, inteligencia artificial cuántica que también es inminente y será otra que se sume. Pero ahora estamos en esta, la inteligencia artificial se ha sumado a los riesgos existenciales. No nos queda otra que solucionarlo y como tú bien dices, el propio problema puede ser la solución. Entonces si lo hacemos correctamente…

y vuelvo a lo mismo, si nos damos cuenta de todos estos ricos identiciales y empezamos a intentar ser lo más íntegros posibles y desarrollar una ética respecto a todo esto y no seguir en la narrativa del siglo XX de ganar y crecer, ganar dinero y crecer infinitamente y toda esta historia que está muerta o debería morir en breve, pero no creo que las personas de a pie, las personas…

que componemos realmente la especie humana, no los casos aislados, loco. Nos hemos dado cuenta que hay que tratar de estos riesgos y estos peligros ya que estamos perdiendo el tiempo ahora mismo por no estar en ello cada uno de nosotros. Yo creo que es así. Entonces vamos a poder usar la inteligencia artificial para que resuelva estos problemas. Y la confesión que quería hacer es que, como estoy escribiendo esta trilogía,

Yo, la relación que tengo con la IA es entorno a todo esto, a intentar solucionar y buscar esas soluciones. Por eso te dije que ya voy a dar soluciones en segundo libro y las voy a hacer paper primero, paper científico. Porque llevo mucho tiempo, mucho tiempo usando la inteligencia artificial para intentar encontrar las soluciones. ¿Quién soy yo? Yo no soy nadie. Yo soy un puente, un puente entre el conocimiento de toda la humanidad.

de toda nuestra historia, que lo que hemos hecho con la Inteligencia de Articidad, poner en un solo contenedor todo nuestro legado y crear una tecnología que te da acceso a todo nuestro conocimiento a tiempo real y encima de forma razonada, filtrada, con razonamiento. Es el momento perfecto para que cada uno de nosotros intente buscar las soluciones, porque la herramienta la tenemos. Hace 20 años, ¿no?

siguiente año yo te decía ¿Cómo puedes resolver el problema medioambiental, el cambio climático? Yo decía yo no puedo. Ahora sí. Ahora sí porque está en tu mano. Todo lo que necesitas para resolver el problema medioambiental está en tu mano y en la mano de todos nosotros. Este es el llamamiento que hago. Despertemos. Tenemos la herramienta.

Decodificados Podcast (1:01:12)
maravillosa forma de acabar, mi querido Pedro.

Pedro Mujica (1:01:16)
Muchísimas gracias Lloyd, ha sido un verdadero honor y un placer.

Decodificados Podcast (1:01:18)
te

Ha sido un placer. Ya has abierto unos cuantos melones que nos quedan por explorar, pero como ya va a haber segundo y tercera parte del libro, pues ya tendremos ocasión. Te agradezco muchísimo tu tiempo y haber compartido esta visión tecnohumanista de la evolución de la ella que espero y creo sinceramente que va a ser el camino que como sociedad y especie vamos a seguir. Más nos vale que así sea.

Pedro Mujica (1:01:45)
más no vale

Decodificados Podcast (1:01:48)
Y dejaré en las notas del podcast, obviamente, pues el enlace a tu libro para comprarlo y a tu web y donde también tienes un libro que es que es vivo. un libro sólido y un libro líquido donde vas aportando, pues, como no puede ser otra manera en este ámbito, pues noticias y cambios y actualizaciones sobre lo que ya has escrito. Así que muchísimas gracias y y te dejo ir ya que hemos llegado al final.

Pedro Mujica (1:02:14)
Muchísimas gracias Loïc, ha sido un verdadero placer y muy entretenido y a menos, ha estado comodísimo y he podido dar el mensaje, me ha dado la oportunidad que era lo más importante. Gracias, te espero en la próxima.

Decodificados Podcast (1:02:25)
Fantástico.

Seguro. Chao.

Pedro Mujica (1:02:29)
Chau.