Noticias

Los resultados no sólo mejoran la eficiencia y escalabilidad de los sistemas de pruebas criptográficas, sino que también abren nuevas posibilidades para garantizar la integridad, equidad y privacidad de las tareas de procesamiento de datos en diversas aplicaciones de la inteligencia artificial y el procesamiento de imágenes.

La computación verificable comprende una familia de técnicas criptográficas que permiten obtener una garantía infalsificable de que algún tercero, como una empresa o un servidor en la nube, ha realizado un procesamiento correcto de los datos de un usuario. Demostrar que una imagen o un vídeo han sido editados, que una predicción realizada por inteligencia artificial proviene de un modelo auditado, o que en una decisión sobre solvencia crediticia sólo se han utilizado datos proporcionados por el cliente son algunos ejemplos de lo que permiten estas técnicas. Además, la computación verificable es compatible con la privacidad de los datos, de forma que, por ejemplo, los algoritmos utilizados por el servidor en el cálculo se mantengan confidenciales.

La computación verificable proporciona integridad, equidad y privacidad, propiedades esenciales en aplicaciones que subcontratan tareas de procesamiento de datos. Dentro de las soluciones posibles, existen sistemas de pruebas generales, como los utilizados en algunas “blockchain” que tienen problemas de escalabilidad cuando se trata de cálculos con grandes cantidades de datos. Por otro lado, las soluciones diseñadas de manera específica para estas aplicaciones son más eficientes, pero a menudo incompatibles entre sí, lo que dificulta su ampliación o su integración en cadenas de procesamiento de datos más amplias.

El estudio

Los investigadores han introducido un nuevo marco con el objetivo de salvar esta brecha combinando las ventajas de rendimiento de las soluciones a medida con la versatilidad de los sistemas de pruebas de uso general. Su núcleo es un enfoque modular para la computación verificable de operaciones secuenciales, que se basa en una nueva primitiva criptográfica conocida como VE (del inglés, Verifiable Evaluation Scheme).

Los investigadores muestran la aplicación práctica de su marco en inteligencia artificial proponiendo un novedoso VE adaptado a operaciones de convolución, capaz de manejar múltiples canales de entrada y salida interconectados. “Nuestro protocolo puede integrarse fácilmente en una cadena de procesamiento de datos para permitir la verificación completa de, por ejemplo, las predicciones realizadas por redes neuronales convolucionales (CNN), que son la base de la mayoría de modelos de inteligencia artificial”, afirma David Balbás, estudiante de doctorado en IMDEA Software e investigador de este estudio. Además, en el artículo también se presentan nuevos VE para el procesamiento de imágenes, que permiten verificar eficazmente la edición o el retoque, incluyendo operaciones como el recorte, el desenfoque, el cambio de escala y otras más complejas.

El equipo ha realizado un prototipo de aplicación de sus sistemas de comprobación que supone una notable mejoría a las técnicas existentes. “Nuestra evaluación comparativa muestra que nuestras pruebas son cinco veces más rápidas de generar y diez veces más rápidas de comprobar que las mejores soluciones existentes hasta ahora, además de introducir innovaciones teóricas en los algoritmos”, explica Damien Robissout, programador de investigación del Instituto IMDEA Software y también coautor del estudio. 

Estos resultados no sólo mejoran la eficiencia y la escalabilidad de los sistemas de pruebas criptográficas sino que también abren nuevas posibilidades para garantizar la integridad, equidad y privacidad de las tareas de procesamiento de datos en diversas aplicaciones de la inteligencia artificial y el procesamiento de imágenes. “A día de hoy, este enfoque resulta esencial en el ámbito de aplicación que consideramos, porque un avance tecnológico no es tal si no se hace merecedor de la confianza de los usuarios finales”, señala otra de las autoras del estudio, Maribel González Vasco, Catedrática de Excelencia del Departamento de Matemáticas de la UC3M.

La aplicación generada en el estudio es de código abierto y su naturaleza modular allana el camino para su ampliación e integración en diversas herramientas dentro de una cadena de procesamiento de datos. De este modo, los investigadores despejan el camino para un despliegue versátil y robusto de la computación verificable en aplicaciones tan diversas como la ética financiera, la protección de datos personales o la regulación de la inteligencia artificial, entre otras.

Referencia bibliográfica: 

Balbás, D. Fiore, D. González-Vasco, M. I. Robissout, D. Soriente, C. (2023). Modular Sumcheck Proofs with Applications to Machine Learning and Image Processing. CCS ’23: Proceedings of the 2023 ACM SIGSAC Conference on Computer and Communications. Pages 1437–1451.
https://doi.org/10.1145/3576915.3623160