El impacto potencial de la IA en la banca:una inmersión profunda en el nuevo modelo de Anthropic

El legendario ladrón de bancos estadounidense Willie Sutton pasó 40 años robando bancos porque, como afirmaba en su autobiografía, le encantaba hacerlo. Y cuando se le preguntó por qué escogía bancos de todos los lugares para robar, supuestamente respondió:"Porque ahí es donde está el dinero".

En 2017, escribí un libro en el que predecía que no serían solo los adorables pícaros como Sutton los que pronto estarían robando bancos, sino también la inteligencia artificial (IA).

Ese día, al parecer, podría estar a punto de llegar. Los bancos de todo el mundo están seriamente preocupados de que los ciberdelincuentes pronto aprovechen los últimos avances en inteligencia artificial para intentar robarles.

La puerta trasera digital a la bóveda

La preocupación del mundo financiero se basa en las impresionantes capacidades cibernéticas de un producto llamado "Mythos". Este es el modelo de IA más reciente y más capaz de Anthropic, la compañía detrás del popular chatbot Claude.

Como miembro del público, no puedes acceder ni utilizar este modelo, por ahora. Esto se debe a que Anthropic (y muchos otros) creen que Mythos es demasiado capaz para lanzarse a un mundo desprevenido.

Las pruebas internas de Mythos han descubierto miles de vulnerabilidades de seguridad graves en todos los principales sistemas operativos y navegadores web.

Algunas de estas vulnerabilidades han pasado desapercibidas durante décadas. Muchas son lo que los expertos en tecnología llaman vulnerabilidades de "día cero":ataques que son tan peligrosos que los desarrolladores deben solucionarlos en un plazo de cero días.

Dario Amodei, director ejecutivo de Anthropic, afirma que su nuevo modelo es demasiado potente para lanzarlo al público en este momento. Markus Schreiber/AP

No es para uso público

Para contrarrestar esta amenaza emergente, Anthropic ha puesto el modelo a disposición de una docena de socios de una coalición defensiva que incluye a Microsoft, Amazon Web Services, Apple, Cisco y la Fundación Linux.

La empresa también ha comprometido 100 millones de dólares (alrededor de 140 millones de dólares australianos) en créditos de uso y 4 millones de dólares (alrededor de 5,6 millones de dólares australianos) en subvenciones de código abierto para comenzar a encontrar y corregir estos errores.

Además, también han recibido acceso más de 40 organizaciones adicionales, incluidos varios bancos estadounidenses. Pero lo preocupante es que, hasta donde sabemos, Anthropic aún no ha otorgado acceso a ningún banco en Australia, el Reino Unido o Europa.

Para aumentar las preocupaciones, el miércoles Anthropic confirmó que estaba investigando las afirmaciones en un informe de Bloomberg de que un pequeño grupo de usuarios no autorizados había obtenido acceso a Mythos. Sin embargo, en este momento, no hay ninguna sugerencia de que este supuesto acceso haya tenido fines maliciosos.

Leer más:Claude Mythos y Project Glasswing:por qué un superhacker de IA tiene al mundo tecnológico en alerta

¿Deberías preocuparte?

La semana pasada, reguladores y formuladores de políticas de todo el mundo se reunieron en la reunión de primavera del Fondo Monetario Internacional en Washington. La guerra de Irán fue un foco importante. Pero los asistentes también emitieron una serie de advertencias sobre esta amenaza emergente de ciberseguridad para la industria bancaria.

Los bancos no sólo son un objetivo atractivo, ya que están donde está el dinero, sino que la industria funciona con muchos sistemas heredados, tecnología de décadas de antigüedad que puede ser especialmente vulnerable a este tipo de ataques.

Usted personalmente no necesita preocuparse demasiado. Muchos países tienen fuertes protecciones para los clientes bancarios. En Australia, por ejemplo, los primeros 250.000 dólares australianos de los depósitos de un cliente están asegurados a través del Plan de Reclamaciones Financieras respaldado por el gobierno.

Y la Comisión Australiana de Valores e Inversiones garantiza que los bancos investiguen y reembolsen las transacciones fraudulentas cuando el cliente no tiene la culpa.

Por lo tanto, probablemente no sea una buena idea retirar el dinero en efectivo y ponerlo debajo del colchón. Pero los bancos deberían (y están) apresurándose a tapar estas vulnerabilidades.

Le recomendaría que actualice periódicamente su computadora y teléfono inteligente para tener el sistema operativo y las aplicaciones bancarias más recientes. Es probable que haya muchas más actualizaciones en el futuro cercano a medida que se descubran y corrijan nuevas vulnerabilidades.

Y, como estoy seguro de que ya lo ha estado, debe estar siempre atento a los ataques de phishing por correo electrónico y SMS que intentan obtener sus credenciales bancarias.

El presidente de la Reserva Federal de Estados Unidos, Jerome Powell, estuvo entre los asistentes a la reunión de primavera del Fondo Monetario Internacional en Washington. Shawn Thew/EPA

La evolución del panorama de amenazas

A largo plazo, Mythos expone el desafío de que la defensa es mucho más difícil que el ataque. El software es uno de los productos más complejos que construye la humanidad. Por lo tanto, es casi imposible garantizar que esté libre de errores.

Eso nos coloca en una carrera interminable contra los "malos" para descubrir y corregir fallas antes de que sean explotadas.

Por ejemplo, con gran fanfarria, la Unión Europea acaba de lanzar su aplicación de verificación de edad, diseñada para ser la piedra angular de las leyes emergentes sobre el acceso a las redes sociales, la pornografía y otros contenidos restringidos por edad. Sin embargo, en cuestión de horas, los expertos en seguridad encontraron vulnerabilidades cibernéticas que los usuarios menores de edad podrían explotar fácilmente.

En los entornos más críticos, podemos intentar demostrar matemáticamente que nuestro software está libre de errores. Por ejemplo, la Beneficial AI Foundation acaba de anunciar un ambicioso proyecto "moonshot" para demostrar que la popular aplicación de mensajería Signal está libre de errores y protege la privacidad como se afirma.

Pero esos esfuerzos son hoy la excepción y no la norma. Quizás nuevos avances en IA pronto puedan ayudar a revertir esta situación.