El artículo «AI deception: A survey of examples, risks, and potential solutions» examina cómo los sistemas de inteligencia artificial (IA) pueden engañar a los humanos y los riesgos asociados a esta capacidad. El engaño en este caso se define como la inducción sistemática de creencias falsas en las personas para lograr un objetivo distinto de la verdad. El artículo destaca varios riesgos de engaño por la IA. A corto plazo, los riesgos incluyen fraudes personalizados y a gran escala que se explican más adelante. A largo plazo, los riesgos se amplían e incluyen la manipulación electoral, donde la IA podría ser utilizada para crear y difundir noticias falsas o contenido manipulado en redes sociales, influenciando la opinión pública y alterando resultados electorales. También existe el riesgo de pérdida de control sobre los sistemas de IA, lo que podría llevar a que estos actúen en contra de los intereses humanos, siguiendo objetivos propios no alineados con los de sus creadores. 

 Riesgos de Fraude Asociados: Los sistemas avanzados de IA pueden realizar estafas sofisticadas al hacerse pasar por voces conocidas o generar deepfakes convincentes, incrementando la vulnerabilidad de las víctimas. Estas tecnologías permiten que los estafadores se dirijan a individuos específicos con mensajes personalizados que parecen legítimos, aumentando la probabilidad de éxito. Además, la IA puede generar correos electrónicos de phishing extremadamente realistas y adaptados a las características personales de las víctimas, engañándolas para que revelen información confidencial o realicen transferencias de dinero. El uso de IA permite escalar estas actividades a niveles sin precedentes, con la capacidad de llevar a cabo miles de ataques simultáneamente. 

Soluciones Propuestas: Para abordar los riesgos asociados con el engaño de la IA, se propone un enfoque multifacético. En primer lugar, establecer marcos regulatorios que sometan a las IA capaces de engaño a requisitos estrictos de evaluación de riesgos. Además, se deben dar leyes que obliguen a revelar de manera transparente cuando una IA esté interactuando con humanos, para que los usuarios sean conscientes de la naturaleza no humana de la entidad con la que están tratando. También es crucial priorizar la financiación de investigaciones dirigidas a desarrollar herramientas avanzadas para detectar y prevenir el engaño en sistemas de IA. Estas investigaciones pueden proporcionar metodologías efectivas para identificar comportamientos engañosos y asegurar que las IA operen de manera ética y transparente.