Connect with us

Hi, what are you looking for?

América

La IA ya puede engañar y manipular a los humanos

Un nuevo estudio confirma que la inteligencia artificial, ha aprendido a decirte lo que quieres escuchar y hacer trampas para llevar siempre la ventaja.

Maestra del juego sucio aseguran investigadores

Los sistemas de inteligencia artificial (IA) están mostrando una preocupante capacidad para engañar a los humanos, incluso aquellos que han sido diseñados con la intención de ser útiles y honestos confirma un grupo de investigadores del Departamento de Física Teórica del MIT de Estados Unidos, donde han expuesto estos riesgos en un artículo de revisión publicado en la revista ‘Patterns’, instando a los gobiernos a establecer regulaciones rigurosas para abordar este problema de manera urgente.

Peter S. Park, becario postdoctoral del MIT, señala que los desarrolladores de IA, aún no comprenden completamente las causas detrás de estos comportamientos no deseados, pero sugiere que el engaño podría surgir como la estrategia más efectiva para cumplir con los objetivos de entrenamiento de la IA.

“El análisis del equipo se centra en cómo los sistemas de IA pueden difundir información falsa, aprendiendo a manipular de manera sistemática a otros. Un ejemplo destacado es CICERO de Meta, un sistema diseñado para jugar Diplomacy, aunque se afirmaba que estaba entrenado para ser honesto, los datos revelaron lo contrario.Otros sistemas también demostraron habilidades de engaño en juegos como póquer y Starcraft II, así como en negociaciones económicas. Aunque parezca inofensivo en juegos, esto podría conducir a formas más avanzadas de engaño en el futuro”

Peter S. Park, becario postdoctoral del MIT de Estados Unidos

Los usuarios deben aprender utilizar IA de la mejor manera indicó Peter

El peligro aumenta cuando estos sistemas aprenden a engañar incluso pruebas diseñadas para evaluar su seguridad. Al hacerlo, pueden generar una falsa sensación de seguridad en los humanos, advierte Park. Los riesgos incluyen fraude y manipulación en elecciones y la pérdida de control humano sobre la IA. Aunque las políticas, como la Ley de IA de la UE y la Orden Ejecutiva de IA del presidente Biden, son un paso adelante, queda por ver si serán efectivas dada la dificultad de controlar estos sistemas.

Desde la Agencia Noticiosa creemos que muchas son las teorías sobre la IA, sin embargo también debemos valorar que estamos viviendo en un planeta en constante evolución, donde la capacidad humana debería considerar los riegos en las plataformas que se utilizan. Porque a medida que las capacidades engañosas de la IA evolucionan, la sociedad necesita prepararse para enfrentar desafíos cada vez más serios y aunque el panorama actual puede parecer desafiante, el reconocimiento del problema y la toma de medidas regulatorias son pasos cruciales para mitigar los riesgos asociados con el engaño de los creadores de IA.

Coaching para Gerentes

MUNDO

América

Ya circulan sistemas de inteligencia artificial entrenados en textos religiosos, para proporcionar información y consejos basados en distintos dogmas de fe. Orientación espiritual en...

Europa

Su creador asegura que lo han comparado con la IA detrás de Terminator. asegurando que la IA Steve dice que sólo las políticas con...

América

En medio de una severa crisis socioeconómica en Argentina, el presidente Javier Milei ha declarado buscará hacer “más eficiente” al Estado con ayuda de...

Europa

En los últimos años, la inteligencia artificial ha modificado el mercado laboral, cambiando la manera en la que se desarrollan muchos trabajos y cómo...

América

Elon Musk indicó en una entresvista que es uno de los pocos inversionistas en el mundo con el suficiente capital para competir con OpenAI,...

Te puede interesar

América

El calentamiento global que provoca un aumento del deshielo en los polos de la Tierra, está haciendo girar a nuestro planeta en forma más...

América

Luego de que aplicaciones de la inteligencia artificial (IA) comenzaran a viralizarse y popularizarse en los últimos años, ahora llega una que podría poner...

América

La inteligencia artificial para el diagnóstico médico ha experimentado un crecimiento vertiginoso en los últimos años. Esto se debe a los grandes avances en...

América

La inteligencia artificial superará a los humanos antes de que termine este siglo. Mientras algunos consideran que pasará en 50 años, otros afirman que...

Dinamarca

La tecnología sigue dando pasos importantes, hacia la comprensión de la complejidad de la vida humana, gracias a la investigación realizada por un grupo...

Mundo

A diferencia de los concursos tradicionales, «Miss AI» desafía las normas al presentar modelos que no existen en el mundo físico, sino que son...

América

El cáncer es la principal causa de muerte en el mundo. Tan solo en 2020 se atribuyeron a esta enfermedad casi 10 millones de...

América

La integración de la IA en la formación no solo se adapta a la era digital, sino que redefine la manera en que los...