En septiembre, OpenAI anunció que su tecnología de inteligencia artificial resolvió el problema de Navier-Stokes en menos de una semana, resuelve un rompecabezas matemático que había desafiado a los mejores expertos humanos durante décadas. Este logro, seguido de una oleada de hallazgos adicionales, ha dejado atónita a la comunidad matemática y ha generado discusiones sobre el futuro de la investigación académica. Sin embargo, las implicaciones de estas capacidades avanzadas de IA se extienden mucho más allá de las matemáticas teóricas hacia el ámbito crítico de la ciberseguridad.
Silicon Valley está desarrollando ahora sistemas de IA diseñados para eliminar fallos peligrosos, conocidos como errores o bugs, en el software informático. La lógica subyacente refleja el enfoque utilizado para las demostraciones matemáticas: así como una IA puede verificar un teorema complejo, teóricamente puede demostrar que una aplicación de software está libre de errores. Esta iniciativa, denominada "verificación de software" por los científicos, se ha vuelto vital a medida que Internet enfrenta su amenaza de ciberseguridad más significativa en décadas. Con los principales sistemas de IA ahora capaces de hackear software identificando y explotando vulnerabilidades a velocidades sin precedentes, existe una necesidad urgente de una nueva generación de IA dedicada a eliminar estos fallos.
Entre las empresas que están pioneras en esta tecnología se encuentra &Truth, una start-up con sede en Palo Alto. Junto con otras firmas de Silicon Valley como Axiom y Logical Intelligence, así como grandes laboratorios de IA incluyendo Anthropic y OpenAI, &Truth busca verificar el software global utilizando Lean, un lenguaje de programación especializado. Esta misma herramienta permitió a la IA resolver problemas matemáticos de millones de dólares. Clark Barrett, profesor de la Universidad de Stanford y cofundador de &Truth, señaló que los avances en matemáticas han hecho posibles tareas anteriormente imposibles. Enfatizó que los métodos formales utilizados para demostrar conjeturas abiertas masivas ahora pueden aplicarse directamente para verificar la integridad del software.
Fuentes: The New York Times Science.