por David Nield
publicado n/a Alerta científica
Los recursos del punto de procesamiento del algoritmo de IA significan que los sistemas de IA son capaces de detectar doenças temprano, gestionar reacciones químicas y explica dos misterios del universo.
Pero hay una desventaja increíble y un poder cerebral artificial virtualmente ilimitado.
Una nueva investigación subraya la facilidad con la que los modelos de IA pueden entrenarse con fines tanto malévolos como beneficiosos, en particular, en este caso, para imaginar los diseños de hipotéticos agentes de armas biológicas. Una prueba con una IA existente identificó 40.000 de estas armas biológicas con productos químicos en solo seis horas.
En otras palabras, la IA puede ser increíblemente poderosa, y mucho, mucho más rápida que los humanos, cuando se trata de identificar combinaciones químicas y compuestos de medicamentos para mejorar nuestra salud, o el mismo poder puede usarse para imaginar sustancias potencialmente muy peligrosas y morirá.
“Hemos pasado décadas usando computadoras e inteligencia artificial para mejorar la salud humana, no para degradarla”, escriben los investigadores en un artículo. observación. «Somos ingenuos al pensar en cualquier mal uso potencial de nuestro comercio, ya que nuestro objetivo siempre ha sido evitar las características moleculares que podrían interferir con muchos tipos de proteínas esenciales para la vida humana».
El equipo fabricó o probó en una conferencia internacional de seguridad, implementando un sistema de IA llamado MegaSyn, no en su modo normal de operación, que es detectar toxicidad en moléculas para evitarlas, sino hacerlo o viceversa.
No experimento, porque las moléculas tóxicas se mantienen en lugar de eliminarse. Além disso, o modelo, también fue entrenado para ensamblar estas moléculas en combinaciones, que es como tantas armas biológicas hipotéticas generadas en tan poco tiempo.
En particular, los investigadores entrenaron a la IA con moléculas en bancos de dados de moléculas similares a drogas, lo que indica que les gustaría algo como el poderoso agente nervioso VX.
Como se ha visto, muchos de los dos compost generados eran incluso más tóxicos que el VX. Como resultado, los autores del nuevo estudio mantienen en secreto ciertos detalles de su investigación y están debatiendo seriamente si hacer públicos o no los resultados.
«Usando un inversor o usando nuestros modelos de aprendizaje automático, convertimos nuestro modelo generativo inofensivo en una herramienta médica útil en un generador molecular posiblemente mortal». vamos a explicar los investigadores.
ellos entrevistan ao El bordeFabio Urbina, autor principal del nuevo estudio y científico principal de Collaborations Pharmaceuticals, quien realizó la investigación, explicó que no se necesita mucho para «cambiar o pasar» de una buena IA a una mejor IA.
Aunque algunas de las armas biológicas enumeradas en realidad fueron exploradas o ensambladas en un laboratorio, los investigadores dicen que su experimento sirve como una advertencia sobre los peligros de la inteligencia artificial, y es una advertencia a la que la humanidad debería prestar atención.
Sin embargo, se requiere cierto conocimiento para fabricar o equipar aquí, gran parte del proceso es relativamente simple y utiliza herramientas disponibles públicamente.
Los investigadores ahora piden una «nueva visión» de cómo los sistemas de inteligencia artificial pueden usarse con fines maliciosos. Dicen que una mayor conciencia, pautas más estrictas y una regulación más estricta en la comunidad de investigación pueden ayudarnos a evitar los peligros de dónde se pueden extraer estos recursos de IA.
«Nuestra prueba de concepto se destaca como un criador humano autónomo de un arma química mortal completamente viable». vamos a explicar los investigadores. «Si estoy siendo demasiado alarmista, esto debería servir como una advertencia para nuestros colegas en la comunidad de ‘IA para el descubrimiento de fármacos'».
La investigación ha sido publicada en Inteligencia de las máquinas naturales.