Un nuevo estudio confirma que la inteligencia artificial, ha aprendido a decirte lo que quieres escuchar y hacer trampas para llevar siempre la ventaja.
Maestra del juego sucio aseguran investigadores
Los sistemas de inteligencia artificial (IA) están mostrando una preocupante capacidad para engañar a los humanos, incluso aquellos que han sido diseñados con la intención de ser útiles y honestos confirma un grupo de investigadores del Departamento de Física Teórica del MIT de Estados Unidos, donde han expuesto estos riesgos en un artículo de revisión publicado en la revista ‘Patterns’, instando a los gobiernos a establecer regulaciones rigurosas para abordar este problema de manera urgente.
Peter S. Park, becario postdoctoral del MIT, señala que los desarrolladores de IA, aún no comprenden completamente las causas detrás de estos comportamientos no deseados, pero sugiere que el engaño podría surgir como la estrategia más efectiva para cumplir con los objetivos de entrenamiento de la IA.
“El análisis del equipo se centra en cómo los sistemas de IA pueden difundir información falsa, aprendiendo a manipular de manera sistemática a otros. Un ejemplo destacado es CICERO de Meta, un sistema diseñado para jugar Diplomacy, aunque se afirmaba que estaba entrenado para ser honesto, los datos revelaron lo contrario.Otros sistemas también demostraron habilidades de engaño en juegos como póquer y Starcraft II, así como en negociaciones económicas. Aunque parezca inofensivo en juegos, esto podría conducir a formas más avanzadas de engaño en el futuro”
Peter S. Park, becario postdoctoral del MIT de Estados Unidos
Los usuarios deben aprender utilizar IA de la mejor manera indicó Peter
El peligro aumenta cuando estos sistemas aprenden a engañar incluso pruebas diseñadas para evaluar su seguridad. Al hacerlo, pueden generar una falsa sensación de seguridad en los humanos, advierte Park. Los riesgos incluyen fraude y manipulación en elecciones y la pérdida de control humano sobre la IA. Aunque las políticas, como la Ley de IA de la UE y la Orden Ejecutiva de IA del presidente Biden, son un paso adelante, queda por ver si serán efectivas dada la dificultad de controlar estos sistemas.
Desde la Agencia Noticiosa creemos que muchas son las teorías sobre la IA, sin embargo también debemos valorar que estamos viviendo en un planeta en constante evolución, donde la capacidad humana debería considerar los riegos en las plataformas que se utilizan. Porque a medida que las capacidades engañosas de la IA evolucionan, la sociedad necesita prepararse para enfrentar desafíos cada vez más serios y aunque el panorama actual puede parecer desafiante, el reconocimiento del problema y la toma de medidas regulatorias son pasos cruciales para mitigar los riesgos asociados con el engaño de los creadores de IA.
