Hackers informáticos realizarán un ataque masivo a los chatbots de IA

La Casa Blanca anunció que apoyará una prueba de hackeo masivo para poner a prueba la seguridad de los chatbots, impulsados con inteligencia artificial, más famosos.

En el ejercicio participarán más de 4.000 piratas informáticos y podrán profundizar en la tecnología de chatbots como ChatGPT de OpenAI o Bard de Google.

De acuerdo con el gobierno estadounidense, «este ejercicio independiente proporcionará información crítica a los investigadores y al público sobre los impactos de estos modelos», explicó un comunicado.

Esta iniciativa se realizará en agosto de este año en Las Vegas, Estados Unidos, durante el evento Defcon, una de las conferencias más importantes de ciberseguridad en el mundo.

TE PUEDE INTERESAR: Conoce Estas 9 Cosas Que ChatGPT Se Negará A Hacer

Buscan resolver fallas en sus modelos

  • La actividad también tiene como propósito que las compañías desarrolladoras puedan tomar medidas para solucionar los problemas que se encuentren en estas plataformas.
  • Google, Microsoft y OpenAI anunciaron su participación en la conferencia de seguridad Defcon.
  • Hasta hace unas semanas, el evento era una posibilidad, más no era 100% seguro que se realizará. Sin embargo, el gobierno de EE.UU confirmó repentinamente, luego de que compañías grandes de tecnología confirmaran su asistencia.
  • Además de ChatGPT y Bard, el evento también abriría el código de plataformas como de Stable Diffusion y Hugging Face de Stability AI, con el fin de evaluarlas.
  • El principal objetivo es detectar vulnerabilidades o saltar los mecanismos de seguridad de estas herramientas.
  • Sven Cattell, uno de los líderes de la Defcon, expresó a Forbes que este ejercicio de hackeó masivo es algo que la industria de inteligencia artificial debe realizar por su ‘propio bien’.
  • Cattell también agregó que este ejercicio de hackeo masivo es el más grande realizado hasta ahora.
  • La idea es que con esta iniciativa los piratas informáticos ayuden también a definir el próximo gran salto tecnológico en estos desarrollos.
  • La Casa Blanca, además de brindar su apoyo a esta actividad, anunció que invertirá 140 millones de dólares en la creación de siete nuevos Institutos Nacionales de Investigación de la IA.
  • Los nuevos institutos se centrarán en el desarrollo de una IA ética y transformadora para el bien público.
  • En varios lugares del mundo también están comenzando a reglamentar los nuevos desarrollos.

Foto: Archivo FOLOU

Deja una respuesta