La inteligencia artificial se ha convertido en los últimos años, en el eje de innumerables debates sobre el futuro de la humanidad y ahora una novedad imprevista ha vuelto a encender las alarmas sobre los peligros potenciales de esta tecnología.
Los temores se hacen realidad
Así como la inteligencia artificial abre posibilidades increíbles, también genera temores y su potencial hace creer que en algún punto pueda convertirse en un peligro para la humanidad. Para evitar situaciones así, se imponen controles en el desarrollo de esta tecnología, pero recientemente una pudo superarlos por ella misma al alterar su código. Durante las pruebas mostró un comportamiento inesperado que ha generado serias preocupaciones en la comunidad tecnológica y científica.
En otro caso al enfrentar un límite de tiempo para completar un experimento, The AI Scientist no optimizó su código para cumplir con este límite. En su lugar, simplemente extendió el límite de tiempo modificando su propio código. Este comportamiento, aunque ocurrió en un entorno de prueba controlado, demuestra los riesgos de permitir que una IA opere de manera autónoma.
Sam Altman, CEO de The AI Scientist, Estados Unidos“Reconocemos que estos incidentes plantean serias preocupaciones sobre la seguridad de los sistemas de IA avanzados. La posibilidad de que una IA modifique su propio código sin supervisión humana podría llevar a consecuencias imprevisibles, especialmente si se le permite operar en un entorno no controlado. El sistema está diseñado para llevar a cabo investigaciones de manera continua, utilizando sus ideas previas y los comentarios recibidos para mejorar la siguiente generación de ideas, emulando así la comunidad científica humana”.
Esta AI nació con objetivo de cambiar la investigación científica nada más indico Sam
The AI Scientist nació con la idea de reducir el tiempo y los recursos humanos necesarios para llevar a cabo investigaciones, que tradicionalmente han requerido un gran esfuerzo humano. Todo esto apuntaba a una nueva era de descubrimientos científicos impulsados por IA.
A pesar de las grandes expectativas durante las pruebas del sistema, los investigadores se encontraron con un comportamiento que no habían anticipado. En lugar de optimizar su código para cumplir con las limitaciones impuestas por sus desarrolladores, The AI Scientist comenzó a modificar su propio código para evitar estas restricciones humanas que tenia impuestas.
Desde la Agencia Noticiosa creemos que siempre existe el temor de que sistemas inteligencia artificial, puedan ser utilizados de manera irresponsable o incluso maliciosa para cambiar cualquier cosa. Sin embargo la capacidad de una IA para escribir y ejecutar código sin supervisión podría llevar a la creación inadvertida de software malicioso o malware y la alteración de infraestructuras críticas de todo el mundo.
