[Terminus]

Me parece pertinente abrir un hilo sobre este tema que día a día esta apareciendo mas en nuestras vidas, desde el supuesto riesgo a un apocalíptico fin de la humanidad hasta el beneficioso uso civil y militar de la misma.
Dicho esto abro el tema para sus comentarios o posteos de novedades.

Logran 'hackear' a OpenAI en 72 horas utilizando la IA de Anthropic

Un equipo de investigadores se apoyó en Claude Opus 5 para acceder a un repositorio interno de la empresa dirigida por Sam Altman
Los agentes de inteligencia artificial cuentan con capacidad para causar estragos en la red. Así lo demuestra los incidentes de seguridad protagonizados por esta clase de tecnología durante los últimos meses. Ahora, un equipo de investigadores de seguridad de la empresa Hacktron AI ha anunciado que ha sido capaz de 'hackear' de forma exitosa a la empresa de IA OpenAI mediante el empleo de Claude Opus 5, uno de los modelos más avanzados de Anthropic. Y, para lograrlo, solo necesitó 72 horas.

«No creo que seamos tan buenos como los actores chinos especializados en ciberamenazas. Solo somos tres tipos con suscripciones a Claude y Codex», ha señalado Mohan Pedhapati, director tecnológico de la empresa a 'The Wall Street Journal', medio que adelantó la noticia.
El equipo de Hacktron AI logró acceder a los sistemas de la empresa el pasado 25 de julio. El ataque comenzó en el foro de la comunidad de OpenAI, alojado en Discourse, una plataforma de código abierto para la creación y gestión de comunidades en internet.

Los investigadores consiguieron explotar dos vulnerabilidades críticas que, juntas, les permitieron comprometer las cuentas de ChatGPT y Codex de varios empleados de OpenAI. La primera les dio acceso al foro de la compañía y la segunda, un fallo en su sistema de identificación, les permitió utilizar ese acceso para hacerse con las cuentas de usuarios que habían iniciado sesión en el foro. A través de una de ellas pudieron utilizar servicios conectados, entre ellos GitHub, y llegar hasta el repositorio interno de OpenAI, donde la empresa almacena y gestiona código y otros archivos relacionados con sus productos.

Para demostrar que el acceso era real sin necesidad de consultar información sensible, utilizaron el Codex de un empleado para crear una solicitud de cambios en el repositorio y después detuvieron las pruebas. «Informamos rápidamente de la vulnerabilidad a OpenAI y Discourse y colaboramos con ellos para coordinar la solución. Agradecemos su atención al detalle y la rápida resolución del problema. OpenAI también nos otorgó una recompensa de 6.500 dólares», apuntan desde la firma de seguridad. Las vulnerabilidades ya han sido corregidas.



El papel de Claude

Efectivamente, Claude jugó un papel importante en la prueba. Los expertos de Hacktron utilizaron primero el modelo Claude Opus 4.8. Sin embargo, este sistema no fue capaz de desarrollar un ataque exitoso; algo que sí logró Opus 5, la siguiente versión lanzada por Anthropic, que fue capaz de preparar un ataque funcional en cuestión de horas. Después, los expertos utilizaron agentes de inteligencia artificial para automatizar parte de las pruebas y continuar avanzando en la investigación.
Según Hacktron, este caso demuestra cómo la inteligencia artificial puede reducir el tiempo y los conocimientos necesarios para llevar a cabo ataques informáticos complejos. Los modelos pueden ayudar a analizar código, localizar fallos de seguridad y desarrollar las herramientas necesarias para aprovecharlos. «La IA está convirtiendo la experiencia especializada en capacidad de computación. El trabajo que antes requería un equipo con amplios recursos y meses de esfuerzo ahora se puede realizar en cuestión de días», sostienen los investigadores.

https://www.abc.es/tecnologia/logran-hac...46-nt.html

[Terminus]

UN EJEMPLO DE USO MILITAR DE LA IA, LA "INTELIGENCIA DE ENJAMBRE"

La inteligencia de enjambre (Swarm Intelligence) aplicada a drones tácticos se basa en el principio de autonomía colectiva descentralizada: múltiples vehículos aéreos no tripulados (UAV) colaboran para cumplir un objetivo común sin depender del control individual de un operador humano ni de un nodo central vulnerable a ataques.

1.1. Redes Móviles Tácticas (FANET):Conectividad ad-hoc.
Los drones forman una Red Ad-Hoc Volante (Flying Ad-Hoc Network). Cada vector actúa como emisor, receptor y repetidor de señal.

• Resiliencia ante fallas: Si la guerra electrónica (jamming) o el fuego antiaéreo destruye un nodo, la red se reconfigura dinámicamente en milisegundos mediante enrutamiento mazo a mazo (mesh networking).Intercambio mínimo de estado: En lugar de transmitir vídeo completo entre sí, los UAV solo comparten paquetes reducidos con posición, velocidad, estado de carga y datos de sensores.

2.2. Algoritmos de Comportamiento Colectivo:Modelos matemáticos de enjambre.
La navegación táctica utiliza reglas bioinspiradas derivadas del comportamiento de aves o insectos y permite:
          Cohesión: Mantenerse dentro de una distancia determinada del grupo.

• Separación: Evitar colisiones entre aeronaves vecinas mediante sensores de proximidad (LiDAR, radar de onda milimétrica o visión artificial).Alineación: Homogeneizar rumbo y velocidad operativa.

3.3. Toma de Decisiones mediante Optimización Dispersa:Asignación distribuida de tareas.
Cuando se detectan múltiples objetivos o amenazas, el enjambre resuelve la asignación de misiones en tiempo real mediante algoritmos que permiten que cada dron evalúa de forma autónoma cuál es el vector mejor posicionado (por distancia, carga útil restante o ángulo de sensor) para ejecutar una tarea (e.g., interferir un radar, realizar un reconocimiento cercano o lanzar una munición merodeadora).
El enjambre valida la elección mediante cómputo distribuido sin enviar órdenes a una estación terrena.
[*]

4.4. Percepción Compuesta y Tácticas de Saturación:Fusión de datos y ataque.

• Fusión de datos distribuida: Los radares o sensores ópticos de 20 drones pequeños combinan sus lecturas en tiempo real para generar una imagen situacional compartida (Synthetic Aperture) con la precisión de un sensor mucho mayor.Tácticas de saturación: En misiones de ataque, el enjambre coordina impactos simultáneos desde múltiples azimuts para sobrecargar la capacidad de procesamiento de las baterías de defensa antiaérea adversarias.

[*]

Y esto es solo el botón de la muestra....

[Terminus]

LA IA Y LA CAPTURA DE MADURO
DAVID ALANDETE

Una sentencia federal dictada este viernes en Washington revela nuevos detalles sobre la operación militar estadounidense que culminó el 3 de enero con la captura de Nicolás Maduro. El fallo confirma que Claude, la inteligencia artificial desarrollada por Anthropic, estuvo vinculada a través de Palantir a aquella misión. También revela que hubo dudas y tensiones sobre su uso en plena operación.

El tribunal no explica qué hizo exactamente Claude. Sí deja constancia de que un ejecutivo de Anthropic cuestionó el uso de su tecnología en una «operación militar sensible en el extranjero». La propia sentencia vincula ese episodio con la operación para capturar a Maduro y más adelante se refiere a ella como una operación cinética para capturar a un jefe de Estado extranjero.

Claude no era una herramienta ajena al Pentágono. El Departamento de Defensa y la comunidad de inteligencia llevaban utilizando sus modelos desde 2024 para trabajar con material clasificado. Entre otras cosas, se empleaban para procesar documentos, resumir evaluaciones de amenazas y analizar inteligencia. Anthropic desarrolló incluso una versión específica, Claude Gov, para las agencias de seguridad nacional. Con el tiempo autorizó también su utilización para analizar inteligencia extranjera, diseñar sistemas de armas y realizar operaciones cibernéticas ofensivas.

En el caso de Venezuela,Claude pudo servir para procesar enormes cantidades de inteligencia antes y durante el asalto, analizar información de vigilancia, localizar o seguir personas, vehículos o fuerzas venezolanas, resumir información para los mandos y ayudar a actualizar la situación sobre el terreno. También pudo intervenir en la  identificación de amenazas o en la planificación de movimientos y de la extracción.

Lo que sí revela es el problema que surgió durante la operación. Anthropic mantenía límites sobre determinados usos militares de Claude y uno de sus ejecutivos cuestionó lo que estaba haciendo un contratista del Pentágono. Aquello provocó alarma. Según recoge el tribunal, dentro del Departamento de Defensa surgieron dudas sobre si las restricciones de Anthropic podían hacer que el sistema dejara de responder como se esperaba en mitad de una misión. Los responsables llegaron a temer que el software pudiera dejar de funcionar o provocar una situación que pusiera en peligro a los militares estadounidenses.

El Pentágono exigió después a Anthropic que permitiera cualquier uso legal de Claude. La empresa se negó a eliminar dos límites, las armas completamente autónomas y la vigilancia masiva de estadounidenses. La disputa terminó con la decisión de apartar a Anthropic de los sistemas del Departamento de Defensa y ampliar, en cambio, la relación contractual con OpenAI





https://x.com/alandete/status/2103586604...84/photo/2

[Krody2]

Ya lo dije, la IA (la verdadera que esta cerca de crearse, no los actuales chat bots) son un peligro real, lo dicen los que actualmente la diseñan y esta fuera de legislaciones, fuera de control. Va a tener capacidad de mejorarse a si misma sin intervención humana.

Hay un 10% que la IA complique la existencia de la humanidad en pocos años, parece poco pero no lo es si tomamos en cuenta de lo que realmente estamos diciendo.