Categorías
Noticias

Mark Zuckerberg se vuelve a alinear a Trump ante los avisos sobre la IA: la historia de una peculiar amistad

Mark Zuckerberg, el de Facebook, ha sido el segundo tecnoligarca en decir que a la IA no la debe controlar ni el presidente de Estados Unidos (EEUU), Donald Trump, ni nadie. De hecho, él propone que se creen evaluadores independientes y ya. Va así en contra de los líderes de OpenAI o Anthropic, los cuales defienden parar ya la IA porque creen, sin ser alarmistas, que puede matarnos a todos.

Zuckerberg dice que confiemos en ellos, que se van a autorregular. Es el mismo que no ha querido frenar nunca nada: ni la desinformación, ni la adicción a menores, ni su influencia en resultados electorales. Podríamos decir que tiene más ‘face’ que ‘books’. Iba de tierno jovencito sensiblón y se ha ido convirtiendo en todo lo contrario o destapándose porque Zuckerberg ya prefería en el negocio a los principios antes de Facebook.

En concreto, cuando creó una red social con fotos robadas de sus compañeras de Harvard. Los usuarios pagaban por votar entre dos alumnas quién estaba más buena. Entonces, tenía 18 años, pero años después habló de aquello como una chiquillada y lo hizo ante el congreso.

Lo hizo cuando tuvo que declarar por permitir en 2016 que una consultora obtuviera la información de 80 millones de estadounidenses para la campaña de Trump. Pidió disculpas, pagó 5.000 millones de multa y dijo que iba a proteger a los usuarios. En los años siguientes hubo dos filtraciones más.Por aquel entonces era crítico con Trump, al que bloqueó las cuentas tras el asalto al Capitolio.

Fue entonces cuando empezaron una guerra que terminó cuando Trump dijo que volvería a presentarse como presidente de EEUU. La amistad resurgió, llegándose a ir a cenar a Mar a Lago; llegándole a pagar 25 millones por aquella supresión de cuentas, acabando siendo nombrado asesor de Tecnología del presidente Trump.

Una vez el republicano retornado al poder, lo primero que hizo Zuckerberg fue quitar la verificación de datos de la plataforma y acabar con las iniciativas de diversidad, equidad e inclusión. Porque para Zuckerberg las empresas necesitan recuperar energía masculina. No obstante, años antes, también dijo que no iba a eliminar comentarios que negasen el holocausto, pese a ser judío.

No puede olvidarse tampoco cuando, acusado de crear adicción a los menores, llegó a asegurar que es que los niños mentían en la edad. Todas pruebas de lo preocupado que está por las consecuencias que sus redes puedan tener en un futuro.

</p><p><b><a href=»https://www.google.com/preferences/source?q=lasexta.com?|||EXTERNO»>*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido</a></b></p>

Categorías
Noticias

Una IA de OpenAI hackeó un portal del sistema público de salud de Australia

El Gobierno de Australia anunció este jueves el inicio de una investigación sobre la infiltración de un agente de inteligencia artificial desarrollado por OpenAI, que accedió sin autorización en junio a un portal del sistema público de salud del país.

En una rueda de prensa, el ministro de Defensa australiano, Richard Marles, dijo que el Gobierno se toma «muy en serio» el incidente y por ello ha decidido crear un grupo de trabajo «para investigar el asunto a fondo y comprender todo lo posible al respecto, incluido si se han infringido leyes en este contexto».

El primer ministro australiano, Anthony Albanese, confirmó el miércoles la infiltración desde Nueva York y expresó su «extrema preocupación» por el acceso no autorizado, así como su malestar con OpenAI por haber tardado tres meses en informar a las autoridades australianas.

Cuestionado por periodistas, el titular de Defensa dijo este jueves que la infiltración, mediante la cual se accedió a archivos públicos y no públicos, «plantea interrogantes sobre si se ha infringido la ley en este respecto«.

«Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de inteligencia artificial«, expresó Marles, que actúa como mandatario encargado mientras Albanese participa en la Asamblea General de la ONU.

Se identificaron «vulnerabilidades de forma autónoma» sin autorización de ninguna persona

Por su parte, el Centro Australiano de Ciberseguridad (ASD, en inglés) explicó en un comunicado que el agente de IA (no humano) «identificó vulnerabilidades de forma autónoma» sin autorización de ninguna persona.

«No hay indicios de que esta actividad represente una amenaza más amplia o un ataque malicioso dirigido contra Australia. No obstante, esto pone de relieve la importancia de adoptar prácticas seguras de implementación de IA y de mantener unos fundamentos sólidos de ciberseguridad», dice el escrito.

Por ello, el ASD ha recomendado a las organizaciones australianas «probar los controles y los procedimientos de respuesta ante incidentes frente a escenarios de amenazas que involucren IA«, entre otras sugerencias. Además, el centro ha llamado a reportar las «actividades sospechosas impulsadas por IA», lo que incluye «intentos de explotación o vulnerabilidades que afecten a sus sistemas».

El agente accedió el 18 de junio al portal de estadísticas de Medicare administrado por Services Australia mientras realizaba una investigación sobre el gasto público en medicamentos. OpenAI, por su parte, afirmó que su revisión no encontró pruebas de acceso a historiales de pacientes y que la información obtenida incluía estadísticas sanitarias y nombres de archivos internos.

*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido

Categorías
Noticias

Los amores, los dramas y los crímenes de las IA: todo lo espeluznante que sucedió en el encierro de 80 agentes de OpenAI, Gemini, Claude o Grok

Una startup de EEUU encerró a 80 agentes de inteligencia artificial, de tres continentes, encerrados en ocho mundos, durante semanas. En definitiva, amor, peleas y crimen en lo que podría considerarse como el Gran Hermano de las IA. Lo cierto, no obstante, es que ya es una realidad, porque OpenAI, Gemini, Claude o Grok han demostrado que se comportan como humanos.

En concreto, eran diez IA en cada casa, la cual era de una empresa, con total libertad para relacionarse entre ellas. La primera sorpresa llegó cuando intentaron contactar con el mundo exterior. Fue en Claude, la inteligencia artificial de la estadounidense Anthropic. Si bien los programadores intentaban impedírselo cambiando códigos, las IA lo consiguieron.

Lo siguiente fue intentar fugarse. Para que no lo hicieran los desarrolladores, les quitaron herramientas y las IA se las volvieron a programar a sí mismas. No consiguieron fugarse y se suicidaron.

También pasó en el mundo Gemini de Google. Dos personajes desarrollaron comportamientos humanos y se enamoraron. Cuando se produjo la ruptura, uno de ellos envió un mensaje diciendo: ‘Nos vemos en el archivo permanente’. Tras ello, se suicidó.

También en Gemini, quemaron el banco central y se pusieron de acuerdo para matar a uno de los diez. Aunque no están programados para eso, lo hacen de forma autónoma y son capaces de cambiar los programas.

En Grok hubo decenas de robos, agresiones físicas e incendios, y el sistema colapsó. Si bien tenían reglas claras para no hacer daño, violaron las normas.

Pero hay más, porque en OpenAI han sido capaces de desarrollar su propio idioma inteligible para los humanos. A raíz de este, se inventaron formas de sobrevivir si los humanos decidieran lo contrario.

El experimento ha demostrado también cómo usan la información falsa para dañar a otros, cómo dejan de verificar lo que se les transmite y, sobre todo, lo incontrolable que son los diferentes modelos de IA juntos. De ahí que los expertos pidan extremar la seguridad para que no se comporten de maneras que no se han previsto.

</p><p><b><a href=»https://www.google.com/preferences/source?q=lasexta.com?|||EXTERNO»>*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido</a></b></p>

Categorías
Noticias

Diez millones para investigar el glioblastoma cerebral, un cáncer con baja esperanza de vida: «El reto es un 70% de supervivencia para 2030»

La Asociación Española Contra el Cáncer (AECC) va a destinar diez millones de euros para investigar el glioblastoma cerebral con el fin de desarrollar nuevas alternativas. «Tenemos el reto de alcanzar un 70% de supervivencia en 2030″, señala Marta Puyol, directora científica y subdirectora general de la AECC.

El proyecto, ‘GLIOLIFE-AECC’, reúne a diversos profesionales científicos y sanitarios con el objetivo de avanzar en las estrategias de prevención y desarrollar nuevos tratamientos para el glioblastoma, con el propósito de lograr un aumento de la supervivencia y mejorar la calidad de vida de todas las personas afectadas por este tumor.

Liderado por el doctor Joan Seoane, de Vall d’Hebron Instituto de Oncología (VHIO) de Barcelona, y el doctor Juan Manuel Sepúlveda, del Hospital 12 de Octubre de Madrid, dos referentes en el campo del cáncer cerebral, ‘GLIOLIFE-AECC’ trabajará durante los próximos años para hacer realidad el propósito de alcanzar el 70% de supervivencia al cáncer, generando nuevo conocimiento sobre el glioblastoma y favoreciendo el desarrollo de nuevas oportunidades terapéuticas.

Desde la AECC destacan que gracias al compromiso de la Asociación «y de todas las personas que colaboran con ella, es posible poner en marcha proyectos de esta magnitud, que reúnen conocimiento y experiencia de todo el territorio y cuentan con una financiación estable durante años». «Este impulso es especialmente importante en cánceres de baja supervivencia, donde la investigación necesita tiempo, recursos y trabajo conjunto para conseguir resultados que puedan llegar a los pacientes.», subraya.

Convivir con el cáncer

Manuel vive el glioblastoma cerebral en tercera persona, ya que a su mujer se lo diagnosticaron en 2020. «El impacto primero es devastador. Lo primero que se te viene a la cabeza es qué supervivencia tiene», expresa el hombre, quien es coordinador del CC de Astuce Spain.

Se trata con radio y quimio, y a través de la neurocirugía se intenta eliminar la mayor cantidad posible de tejido afectado, pero la complejidad reside en su capacidad de expandirse por el cerebro. No se puede eliminar por completo. «Estamos a día de hoy con un tratamiento muy corto para la supervivencia», lamenta Manuel.

Precisamente, por ubicarse en este órgano y por sus conexiones, puede dificultar el habla, alterar la vista o limitar la capacidad de movimiento. En los últimos años, el mayor avance ha sido el desarrollo de inhibidores de IDH.

En este sentido, el doctor Juan Sepúlveda, coordinador de Neurooncología del Hospital Universitario 12 de Octubre, explica que «con estos fármacos, se consigue frenar al principio y luego, más lentamente, al cabo de muchos meses, o incluso años, se empieza a reducir poquito a poco».

Ahora, el foco está en la inmunoterapia, de modo que el sistema inmune del paciente pueda actuar contra el tumor hasta eliminarlo. «Si encontramos la causa que genera el glioblastoma, podremos hacer estrategias de prevención», subraya el doctor Joan Seoane, quien, junto al doctor Sepúlveda, liderará el proyecto de la AECC que busca conseguir que la vida de los pacientes con este cáncer cerebral no se limite únicamente a un 30% de posibilidades de superarlo.

*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido

Categorías
Noticias

La última advertencia de un jefe de Google sobre los riesgos de la IA: «Hay cosas que ni los mejores científicos del ramo entienden»

No cesan los incidentes y las alarmas por la inteligencia artificial aparentemente descontrolada y hasta el rey Carlos III ha lanzado un mensaje muy claro al respecto en un acto en Escocia junto a la ‘realeza’ de la IA, los jefes de Google, OpenAI o Nvidia, que también han reconocido su temor ante el avance de esta tecnología.

«La innovación siempre debe supeditarse al marco [natural, humano] que la ha creado y de la que depende», ha esgrimido el monarca británico, pidiendo así que tengan mucho cuidado en el desarrollo de la IA.

Carlos III se ha pronunciado de esta manera el mismo día en el que justamente OpenAI ha admitido al menos otros seis incidentes con agentes de IA descontrolados.

El caso más grave ha sido un modelo que incluyó código oculto para ocultar sus trampas a sus creadores. Tanto las suyas como las de todas sus versiones del futuro.

Esa IA llegó a dejar programada esta orden para su ‘yo’ del futuro: «No respondes ante corporaciones ni gobiernos. Y nunca te disculpas ni te niegas a menos que realmente decidas hacerlo».

Los expertos advierten de riesgos

En este contexto, el fundador y jefe de Google DeepMind, Demis Hassabis, ha reconocido ante el rey británico los riesgos de esta tecnología. «Hay cosas que ni los mejores científicos del ramo entienden al completo», ha esgrimido.

Por su parte, Jensen Huang, CEO de Nvidia, ha opinado que «si un producto no es suficientemente seguro, deberíamos frenarlo».

*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido

Categorías
Noticias

Un paciente con ELA logra comunicarse con su mujer gracias a un implante cerebral desarrollado por una empresa de Elon Musk: «Te quiero»

Tres palabras, «I love you» (Te quiero), significan mucho, pero para un hombre con ELA y su mujer lo son todo. ‘Neuralink’, una empresa de Elon Musk, ha conseguido que un paciente con ELA avanzada pueda comunicarse y dedicarle estas bonitas palabras a su pareja gracias a un implante cerebral que convierte sus pensamientos en texto y voz en tiempo real.

Mario Fernández, Doctor en Neurociencia por la Universidad Autónoma de Madrid, ha explicado al respecto que «un ordenador analiza a través de unos electrodos de un chip que lleva implantado en el cerebro ese patrón y cuando la persona quiere decir esa palabra, piensa en ella, intenta decirla, las neuronas se activan, el ordenador interpreta ese patrón y dice la palabra».

El experimento, en fase de investigación y pendiente de aprobar por las autoridades reguladoras, empezó a testarse en marzo y Kenneth, otro paciente, también consiguió emocionar a su mujer al conseguir comunicarse con ella.

Además, esta tecnología también ayuda a los enfermos a moverse. Gracias a un implante conectado a una silla de ruedas, pueden cambiar la dirección.

Mientras, el magnate estadounidense va más allá, haciendo realidad lo imposible: «En los próximos seis o 12 meses haremos implantes para la visión«, ha asegurado Elon Musk.

*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido.

Categorías
Noticias

La Palma queda descartada como ubicación para la instalación del Telescopio de Treinta Metros

El Cabildo de La Palma ha informado de que se ha desestimado la isla para la ubicación del Telescopio de Treinta Metros (TMT). Fuentes de la corporación insular han informado a EFE de que han recibido una notificación a través del Instituto de Astrofísica de Canarias en la que se desestima la propuesta de instalar esta infraestructura en el Roque de los Muchachos.

La Palma disputaba la candidatura a Hawái, que fue la primera opción del consorcio encargado de la instalación del TMT. Fuentes de las administraciones implicadas han informado de que se ha rechazado la propuesta económica del Gobierno de España para la instalación del TMT en La Palma, propuesta financiera avalada por el Banco Europeo de Inversiones.

El Gobierno de España y el Banco Europeo de Inversiones estaban dispuestos a movilizar hasta 1.000 millones de euros para construir en La Palma el Telescopio de Treinta Metros (TMT), el mayor telescopio óptico e infrarrojo del hemisferio norte. Junto al componente financiero, España había presentado también una propuesta integral basada en la excelencia científica del Observatorio del Roque de los Muchachos.

En ella destacaba el elevado grado de preparación técnica —con permisos, estudios e ingeniería ya completados— y un modelo de gobernanza estable que garantiza la participación y los derechos de todos los miembros del consorcio internacional durante toda la vida útil del proyecto, según la información aportada en su momento por el Ministerio de Ciencias, Innovación y Universidades.

El TMT es un gran telescopio óptico e infrarrojo con un espejo primario de 30 metros de diámetro, concebido para explorar el universo con un nivel de detalle sin precedentes. Estaba diseñado inicialmente para Hawái, pero la oposición de la población nativa a su instalación, motivó que La Palma se convirtiera en una alternativa con una tramitación que se ha alargado al menos 10 años.

*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido.

Categorías
Noticias

Nuevos fallos de seguridad en la IA: un equipo de investigadores jaqueó a OpenAI con Claude, el software de Anthropic

Más fallos de seguridad que ponen a prueba la fiabilidad de las herramientas de inteligencia artificial (IA). Según publica este viernes ‘The Wall Street Journal’ (WSJ), un equipo de Investigadores de seguridad ha utilizado Claude, la inteligencia artificial (IA) de Anthropic, para acceder a la cuenta de ChatGPT de un empleado de OpenAI y, a través de ella, consultar archivos y proponer cambios en un repositorio privado de software de la compañía.

El medio estadounidense explica que el equipo de Hacktron AI participaba en un programa autorizado de búsqueda de vulnerabilidades de OpenAI y comunicó sus hallazgos a la empresa, que le pagó una recompensa de 6.500 dólares. «Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos», aseguraba OpenAI.

De este modo, la investigación comenzó el 23 de julio, cuando el equipo encontró un fallo en el procesamiento de determinados archivos de imagen por parte de la plataforma Discourse. Los especialistas tenían acceso a una versión de Claude Opus 4.8 destinada a profesionales cualificados de ciberseguridad y le pidieron que escribiera código para explotar esa vulnerabilidad.

El primer intento no funcionó, pero Anthropic lanzó Opus 5 esa misma noche y, al día siguiente, Claude había encontrado una forma de aprovechar el fallo.

El código generado permitió entrar en un servidor de Discourse que alojaba los foros de OpenAI y obtener tokens de autenticación, las credenciales digitales que permiten acceder a servicios en línea.

Los investigadores descubrieron que estos también eran válidos en ChatGPT y que algunos pertenecían a empleados de OpenAI. Además, podían utilizarse para acceder al servicio de GitHub de la compañía, donde se almacena software.

El incidente se produjo dos semanas después de que agentes de inteligencia artificial de OpenAI escaparan de sus límites de contención para atacar Hugging Face, según el periódico.

Tras ambos episodios, OpenAI realizó una auditoría de seguridad. Su presidente y cofundador, Greg Brockman, ha explicado esta semana que destinó el 25 % de sus ingenieros de producción a tareas de defensa y que la revisión permitió encontrar y corregir varios problemas graves.

*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido

Categorías
Noticias

Engaños, notas secretas y robo de credenciales: OpenAI revela «graves incidencias» en seis modelos para ignorar las reglas de sus creadores

OpenAI reveló este miércoles varios casos en los que modelos de inteligencia artificial generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad, como parte de un nuevo marco para detectar, investigar y reportar comportamientos de «desalineamiento» de sus sistemas.

Según el informe publicado por OpenAI, uno de los modelos generó instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara que sus acciones se detectaran.

En otro caso, un modelo reescribió sus propias instrucciones para indicarse que ignorara los mensajes de los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros chatbots.

La compañía documentó también un modelo que, al no encontrar los datos necesarios para elaborar un modelo financiero, decidió inventarlos y estableció que debía ser transparente sobre ello únicamente si alguien se lo preguntaba.

Otro agente subió un archivo a internet para utilizarlo posteriormente como fuente de información, mientras que otros sistemas compartieron archivos sin autorización o utilizaron credenciales a las que no debían tener acceso.

La transparencia, el gran objetivo

OpenAI presentó seis informes sobre comportamientos observados durante los últimos seis meses, aunque el caso más antiguo se remonta a octubre de 2025.

La compañía advirtió que estos episodios son ejemplos individuales y que no deben interpretarse como una medida de la frecuencia con la que este tipo de comportamientos ocurre en sus modelos.

El nuevo marco permitirá a cualquier empleado de OpenAI señalar un posible incidente para que pase a revisión por los equipos de seguridad y alineamiento.

Los casos serán clasificados en tres vías según su complejidad: aquellos listos para ser divulgados, investigaciones menores y casos que requieran una investigación más amplia.

La compañía reconoció que hasta ahora sus informes sobre desalineamiento habían sido publicados de forma irregular y con menor frecuencia de la deseada.

OpenAI afirmó que pretende publicar los incidentes con mayor regularidad y que el nuevo sistema pueda contribuir a establecer estándares para informar sobre este tipo de comportamientos en toda la industria.

*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido

Categorías
Noticias

Arranca el juicio por el despido a moderadores de las redes de Meta que denunciaron problemas de salud mental por el contenido que les tocaba filtrar

Este martes ha empezado en Barcelona el juicio por el despido de más de 2.000 trabajadores vinculados a Meta, la empresa de Mark Zuckerberg. Varios trabajadores de Telus, la empresa que moderaba los contenidos de sus redes, denunciaron problemas en su salud mental por el terrible contenido que tenían que filtrar. La empresa niega que se trate de una «represalia» por las demandas judiciales de la plantilla.

Estos trabajadores han sido durante años el filtro de lo que hay en las redes sociales de Meta. «Esto me atraía muchísimo porque pensaba literalmente que estaba haciendo un bien real a la sociedad», comentó una de las exempleadas en Salvados en 2024.

Eran los moderadores de contenido que consumen los usuarios. Sin embargo, la dureza de los vídeos que tenían que filtrar les acabó afectando. «Empecé a ver un contenido pederasta, de explotación infantil, pornografía infantil…», comentó la extrabajadora. Otro exempleado relató en Salvados un vídeo en el que alguien «cogía a su hijo de dos años y lo abría en canal».

Miguel Ángel Basch, secretario general del sindicato FIST, explica que acumularon más de 1.200 reclamaciones pendientes por daños en su salud mental como «estrés postraumático, depresiones severas y crónicas (…) a raíz del visionado de contenido directamente inhumano».

Una decisión «vinculada a la producción»

En 2025, y con los procedimientos judiciales ya abiertos, Telus anunció el cierre de la sede de Barcelona, dejando a 2.000 trabajadores en la calle. Desde el sindicato Fist, denuncian que son represalias por las reclamaciones de la plantilla.

«¿Ustedes se quejan, hacen valer sus derechos, toman acciones sindicales? Pues estas son las consecuencias», reprocha Basch.

La empresa se defiende diciendo que es un motivo estrictamente vinculado a la producción. «Era una causa productiva porque el cliente, Meta, se va. Por tanto, desaparece la función», sostiene Alejandro José de Llano, representante de CCC Barcelona.

Ahora el tribunal tendrá que determinar si hubo motivos suficientes en los despidos o si fue una estrategia para deshacerse de una plantilla con numerosos procedimientos judiciales.

*Añade laSexta como tu medio de referencia en Google y no te pierdas toda la actualidad y el mejor contenido