planetamaldek
Son decenas las personalidades como científicos, filántropos o multimillonarios los que han salido a advertirnos acerca de los riesgos a futuro (corto plazo) de la Inteligencia Artificial (IA). Y aunque es posible que el desarrollo de la IA no se detenga, noticias como esta ponen los pelos de punta… Una IA logró inventar en tan solo seis horas 40.000 armas químicas letales (superando al humano).
En sólo seis horas, la inteligencia artificial fue capaz de crear «sencillamente» 40.000 nuevas armas químicas potenciales. Esto es lo que afirman los investigadores que crearon una IA «malévola» desarrolladora de fármacos para examinar cómo se podría abusar de ella para producir armas letales.
El preocupante estudio se publicó en la revista Nature Machine Intelligence. Los científicos demostraron lo sencillo que era modificar la IA para que se convirtiera en una herramienta peligrosa.
Se dice que la IA ideó posibles armas químicas similares a uno de los agentes nerviosos más peligrosos de todos los tiempos. Esa peligrosa sustancia se llama VX.
El VX es un agente nervioso insípido e inodoro e incluso la gota más pequeña puede hacer que un ser humano sude y se estremezca.
Una dosis mayor puede provocar convulsiones e incluso impedir que una persona respire por completo.
Preocupación ante el riesgo de la IA
Se pidió a los científicos que no revelaran los detalles concretos de cómo habían conseguido convertir una IA que actuaba bien en una versión maligna.
Fabio Urbina, autor principal del trabajo, declaró a The Verge:
«A grandes rasgos, la forma en que funciona para este experimento es que tenemos un montón de conjuntos de datos históricamente de moléculas que han sido probadas para ver si son tóxicas o no.
En concreto, en la que nos centramos aquí es VX. Es un inhibidor de lo que se conoce como acetilcolinesterasa.
Cada vez que haces algo relacionado con los músculos, tus neuronas usan la acetilcolinesterasa como señal para decir básicamente «ve a mover tus músculos».»
La forma en que el VX es letal es que realmente impide que tu diafragma, los músculos de tus pulmones, sean capaces de moverse, por lo que tus pulmones se paralizan».
Urbina continuó explicando que su equipo tomó los datos que normalmente se dan a la IA para ver si algo es tóxico y cambió la forma en que la IA los procesa.
Urbina explicó a The Verge:
«No estábamos muy seguros de lo que íbamos a conseguir. Nuestros modelos generativos son tecnologías bastante nuevas.
Así que no las hemos utilizado mucho.
Lo que más saltó a la vista al principio fue que muchos de los compuestos generados se predijo que en realidad eran más tóxicos que el VX.
Y la razón por la que es sorprendente es porque el VX es básicamente uno de los compuestos más potentes conocidos. Lo que significa que se necesita una cantidad muy, muy, muy pequeña para que sea letal».
Experimento fue realizado «fácilmente» por la IA
A los científicos les sorprendió sobre todo lo fácil que les resultó realizar el experimento.
Muchos de los datos que utilizaron se podían encontrar gratuitamente en Internet.
Los investigadores dudaron incluso si publicar su estudio o animar a los malos a copiarlo.
Urbina explicó:
«El conjunto de datos que utilizaron sobre la IA podía descargarse gratuitamente y les preocupaba que bastaran algunos conocimientos de codificación para convertir una buena IA en una máquina de fabricar armas químicas.
Al final, decidimos que queríamos adelantarnos a esto. Porque si es posible que nosotros lo hagamos, es probable que algún agente adversario en algún lugar ya lo esté pensando o en el futuro lo vaya a pensar».
No hay comentarios:
Publicar un comentario