Mythos: bajo siete llaves

Hace siete años cuando concluyó el entrenamiento de GPT-2, Dario Amodei, entonces director de investigación de Open AI, consideró que era demasiado peligroso para lanzarlo sin más. El modelo acabó saliendo meses después y el anunciado apocalipsis digital nunca llegó. Hoy Amodei vuelve a estar preocupado, pero ahora desde Anthropic, la empresa que él mismo fundó en 2021. Este mes anunció que Mythos, el último y más avanzado modelo de Claude, es demasiado poderoso para ponerlo en manos del gran público. Le inquieta su habilidad para detectar vulnerabilidades en el software y, según se le ordene, parchearlas o explotarlas con la astucia del mejor hacker. Hay, de cualquier modo, que poner en perspectiva estas advertencias, porque Anthropic es la primera interesada en alimentar el bombo publicitario de la empresa, que va muy bien. Es normal que Amodei desee que siga creciendo en clientes y facturación. Pero también hay motivos de peso para tomárselo en serio. Mythos ya ha localizado brechas importantes en todos los grandes sistemas operativos y navegadores, incluida una que ha permanecido oculta durante 27 años sin que ningún revisor humano lo advirtiese. La respuesta del sector avala la amenaza. Amodei ha puesto en marcha el Proyecto Glasswing, al que se han sumado Apple, Google, Nvidia, CrowdStrike y la Fundación Linux para blindar sus defensas antes de que el modelo salga al mercado. Anthropic asumirá los primeros 100 millones de dólares de coste, pero luego cobrará cinco veces más que por Opus, su predecesor. Esto puede incomodar, y mucho, al Gobierno estadounidense, que lleva décadas coleccionando esas vulnerabilidades en sus rivales para utilizarlas como ciberarmas llegado el caso. Si Glasswing funciona, parte de ese arsenal quedaría desactivado. Pete Hegseth, secretario de Defensa, que acaba de tener un rifirrafe con Anthropic, podría poner a la compañía en la mira y buscarle más problemas. El hecho es que la idea de un mundo en el que simples aficionados se dediquen al conocido como “vibe hacking” pidiendo a la inteligencia artificial que encuentre fallos y luego los aprovechen en su beneficio suena aterradora. Scott Bessent, secretario del Tesoro, ha reunido a los grandes banqueros para analizar el asunto, y los reguladores británicos han hecho lo propio. Con todo, los expertos se muestran por ahora optimistas. Creen que en el medio plazo la cosa puede devenir algo caótica, pero a la larga quienes se dedican a la seguridad informática saldrán ganando. Queda, eso sí, un corto plazo difícil y, sobre todo, muy caro. Cada bug cazado con IA puede costar miles de dólares en créditos, una factura prohibitiva para proyectos que se nutren de voluntarios como Linux. Eso por no hablar de que buena parte del código que circula por infinidad de dispositivos, como el de la maquinaria industrial, los routers domésticos o los electrodomésticos conectados no tiene a nadie dándole mantenimiento. En ese terreno baldío, los atacantes podrían hacer su agosto. Para hablar de este tema regresa Francisco a La ContraCrónica, que, aparte de ser un usuario intensivo de inteligencia artificial en su trabajo como desarrollador, ha estado siguiendo este tema. · Canal de Telegram: https://t.me/lacontracronica · “Contra el pesimismo”… https://amzn.to/4m1RX2R · “Hispanos. Breve historia de los pueblos de habla hispana”… https://amzn.to/428js1G · “La ContraHistoria del comunismo”… https://amzn.to/39QP2KE · “La ContraHistoria de España. Auge, caída y vuelta a empezar de un país en 28 episodios”… https://amzn.to/3kXcZ6i · “Contra la Revolución Francesa”… https://amzn.to/4aF0LpZ · “Lutero, Calvino y Trento, la Reforma que no fue”… https://amzn.to/3shKOlK Apoya La Contra en: · Patreon... https://www.patreon.com/diazvillanueva · iVoox... https://www.ivoox.com/podcast-contracronica_sq_f1267769_1.html · Paypal... https://www.paypal.me/diazvillanueva Sígueme en: · Web... https://diazvillanueva.com · Twitter... https://twitter.com/diazvillanueva · Facebook... https://www.facebook.com/fernandodiazvillanueva1/ · Instagram... https://www.instagram.com/diazvillanueva · Linkedin… https://www.linkedin.com/in/fernando-d%C3%ADaz-villanueva-7303865/ · Flickr... https://www.flickr.com/photos/147276463@N05/?/ · Pinterest... https://www.pinterest.com/fernandodiazvillanueva Encuentra mis libros en: · Amazon... https://www.amazon.es/Fernando-Diaz-Villanueva/e/B00J2ASBXM #FernandoDiazVillanueva #claude #mythos Escucha el episodio completo en la app de iVoox, o descubre todo el catálogo de iVoox Originals