Posts

Showing posts from November, 2026

IBM y Red Hat recurren a la inteligencia artificial para afrontar la creciente acumulación de vulnerabilidades de software.

Image
  La inteligencia artificial facilita la detección de vulnerabilidades en el software y obliga a las empresas a acelerar su corrección La inteligencia artificial (IA) está facilitando la identificación de fallas de seguridad en el software, lo que está llevando a las empresas a realizar importantes esfuerzos para corregirlas con mayor rapidez. En octubre, IBM y Red Hat anunciaron que su iniciativa Lightwell había combinado inteligencia artificial con el trabajo de ingenieros para corregir más de 400 vulnerabilidades previamente desconocidas en bibliotecas Java ampliamente utilizadas. También ampliaron Lightwell Clearinghouse , una plataforma mediante la cual las empresas pueden solicitar la corrección prioritaria de vulnerabilidades en software de código abierto ( open-source software ). Según investigadores de IBM, esta ampliación responde al riesgo de que los descubrimientos impulsados por IA superen la capacidad de los equipos encargados de corregir dichas vulnerabilidades. «La...

IBM and Red Hat turn to AI to tackle a growing backlog of software flaws

Image
    AI is making software flaws easier to find and leaving companies scrambling to fix them.   In October, IBM and Red Hat announced that their Lightwell initiative had paired AI with engineers to fix more than 400 previously unknown flaws in widely used Java libraries.   They also expanded Lightwell Clearinghouse, where businesses can request priority fixes for open-source software , as AI-driven discoveries threaten to overwhelm repair teams, according to IBM researchers.   “The unknown is way worse than we thought,” Ben Breard , Senior Principal Product Manager at Red Hat, told IBM Think in an interview. He said recent advances in AI models revealed how many flaws remain undiscovered in the software businesses use every day.   The trend could reshape how companies maintain their technology. An October analysis by IBM X-Force found that publicly disclosed vulnerabilities across Microsoft, Oracle, Google Chrome and Apache rose 578% in the first nine mo...

I want to explain detail the following paragraph: AI (from: https://www.anthropic.com/research/provable-inference)

Image
  For a large model (Llama 4 Maverick, 400B-parameter mixture of experts), a single H100 GPU generates proofs at around 110 tokens/second, with a proof size of ~19 MB per 1,024-token request, when in 4-bit quantized weights, using integer arithmetic in prefill. This is ~70-95x the GPU time of running the model itself on vLLM, a common open-source library. Explained:   The paragraph describes a significant development in cryptographically verifiable AI inference: researchers have demonstrated that a system called FlashProve can generate mathematical proofs that a very large language model executed a specified computation correctly, without revealing its internal parameters. However, generating those proofs is substantially more computationally expensive than performing ordinary AI inference. The most important distinction is that 110 tokens/second refers to the rate at which FlashProve processes tokens for proof generation, not the rate at which the language model generate...

Cuándo habla con la IA, sabe realmente con cuál lo hace?

Image
  Inferencia verificable: pruebas criptográficas para garantizar la autenticidad de los modelos de IA Cuando conversas con un amigo en persona, dispones de muchas formas de saber que realmente se trata de esa persona: puedes verla, escucharla o estrecharle la mano. Cuando interactúas con un modelo de inteligencia artificial (IA), prácticamente no cuentas con ninguna de estas posibilidades. Actualmente, un usuario que realiza una consulta a un modelo de IA no puede verificar que las respuestas provengan efectivamente del modelo específico que el desarrollador afirma estar utilizando, en lugar de otro modelo sustituido secretamente por un servicio de enrutamiento para reducir costos, o incluso por un atacante que haya manipulado el flujo de tokens. Evaluar únicamente la salida del modelo no es un método confiable, incluso cuando este genera respuestas de alta calidad. Las pruebas criptográficas de inferencia (cryptographic proofs of inference) permiten resolver este problema: hacen p...

When you talk to an AI model, you have almost none. What can you do?

Image
  When you talk to a friend in person, you have many ways to know it is really them: you can see them, hear them, shake their hand. When you talk to an AI model, you have almost none. A user querying a model today cannot check that the responses came from the specific model that a developer claims is responding, as opposed to one secretly substituted in by a routing service for cost reasons, or even by an attacker who has tampered with the token stream. Judging from the model’s output alone is unreliable, even if it produces high-quality responses. Cryptographic proofs of inference solve this problem: they let a model provider commit to a model and then prove that each response was produced by that model. Such proofs could enable applications ranging from consumer products to internal security, and could contribute to a toolkit for verifying compliance with AI pacing requirements. When a user sends a request to an AI model, today they have no way of knowing for certain that the mod...

India propone un plan de inteligencia artificial basado en el principio: «El modelo se desplaza hacia los datos, en lugar de que los datos se desplacen hacia el modelo»

Image
  India propone un plan de inteligencia artificial basado en el principio: «El modelo se desplaza hacia los datos, en lugar de que los datos se desplacen hacia el modelo» Concepto central del artículo: La propuesta de la India plantea un cambio importante en la gobernanza de los datos utilizados para entrenar inteligencia artificial: en lugar de centralizar grandes cantidades de información en las infraestructuras de las empresas que desarrollan los modelos, se propone acercar los procesos de entrenamiento a entornos seguros donde permanecen los datos, preservando el control de sus propietarios. El país busca desarrollar más inteligencia artificial local, sin conceder a las grandes empresas tecnológicas acceso irrestricto a todos los datos. Mientras continúan el debate y las controversias legales sobre hasta qué punto los desarrolladores de grandes modelos de lenguaje (LLM) tienen derecho a incorporar datos de todo el mundo en sus sistemas sin pagar por ellos, el Gobierno de la Ind...