El uso (indebido) del ChatGPT en los delitos financieros: el lado oscuro de una herramienta valiosa

Avances tecnológicos como la aplicación ChatGPT ayudan a mejorar la productividad de las empresas y la experiencia del cliente, pero cada vez preocupa más su uso en actividades delictivas.  

●     Las nuevas tecnologías, como la aplicación ChatGPT, impulsan la productividad de las empresas y desbloquean el crecimiento económico, pero cada vez preocupa más los riesgos que implican.

●     Las herramientas tecnológicas se han utilizado en delitos financieros cada vez más elaborados.

●     Ante este panorama, es esencial que las empresas del sector financiero, como las "fintechs", redoblen su atención a sus programas de riesgo y de compliance.

Para recibir más información basada en datos directamente en su correo electrónico, suscríbase al boletín semanal Refinitiv Perspectives

Desde que la OpenAI, empresa creadora de ChatGPT, anunciara a mediados de marzo el lanzamiento de la tecnología GPT- 4, la atención de científicos, empresarios y líderes mundiales se ha volcado masivamente hacia las posibilidades (tanto positivas como negativas) de lo que hoy conocemos como Inteligencia Artificial. La evolución de GPT-3.5, la nueva herramienta parece haber llegado para redefinir el futuro de la Inteligencia Artificial y la comunicación, creando interacciones más naturales y realistas entre humanos y máquinas. De momento, sin embargo, sólo los usuarios de ChatGPT Plus, la versión pagada de la IA conversacional, tendrán acceso a GPT- 4-e de forma limitada.

Aun así, cientos de personalidades del sector de la tecnología firmaron la semana pasada una carta sorprendente en la que pedían una pausa de al menos seis meses en el desarrollo de la Inteligencia Artificial. ¿El motivo? Según los firmantes -entre los que se encuentran nombres como Elon Musk (Tesla/Twitter), Steve Wozniak (Apple) o el historiador israelí Yuval Harari-, estamos cerca de algo que podría suponer un cambio profundo en la historia del planeta, con la IA avanzando a una velocidad sin precedentes y sin que aún se haya completado la regulación de este sector.

Nuevas rutas para el crimen financiero

En fin, como siempre insistimos en recordar en este blog, los avances tecnológicos, como la aplicación ChatGPT, ayudan a mejorar la productividad de las empresas y a desbloquear el crecimiento económico, pero cada vez hay más preocupación por los riesgos que pueden suponer para la privacidad, los derechos humanos e incluso la seguridad de las personas. Además, mientras que las tecnologías emergentes son el alma del continuo movimiento de innovación que hemos visto en empresas de, por ejemplo, el sector financiero (como las fintechs), lo cierto es que esta misma tecnología se ha utilizado para llevar a cabo delitos financieros cada vez más elaborados. 

Sí, hace tiempo que venimos hablando de esto aquí en este espacio y casi siempre en función de la transición digital, una tendencia que sin querer acaba abriendo nuevas vías para la delincuencia financiera. Pero la semana pasada, el cuerpo de policía de la Unión Europea, Europol, lanzó una alerta sobre la posibilidad de que ChatGPT se utilice indebidamente en delitos relacionados con el phishing, la desinformación y la ciberdelincuencia, lo que agrava aún más el clima de preocupación en torno a la nueva herramienta.

Como subraya Europol, desde su lanzamiento el año pasado, ChatGPT de OpenAI -que cuenta con el respaldo de Microsoft- ha desatado una verdadera obsesión por la tecnología, lo que ha llevado a sus rivales a lanzar productos similares y a las empresas a integrarla en sus aplicaciones. "Las capacidades de los LLM (Large Language Models), como ChatGPT, están siendo activamente mejoradas. Así pues, la posible explotación de estos sistemas de Inteligencia Artificial por parte de los delincuentes parece una perspectiva sombría", afirma Europol en un informe.

Para completar, la agencia europea destacó además el uso nocivo de ChatGPT en tres posibles áreas:

1.   Phishing - "La habilidad de ChatGPT para escribir textos muy realistas lo convierte en una herramienta útil para los delincuentes que se dedican al phishing (intentos de fraude para obtener ilegalmente informaciones como el número de tarjeta de crédito y contraseñas bancarias)", advierte Europol.

2.   Desinformación y propaganda - Al ser capaz de reproducir patrones lingüísticos para representar el estilo de habla de individuos (o grupos específicos), el chatbot puede ser utilizado por los delincuentes para ponerse en contacto con víctimas potenciales sin ser identificados. "Además, la capacidad de ChatGPT para producir textos que suenen auténticos de forma rápida lo convierte en un recurso ideal para difundir desinformación", afirma la agencia de seguridad de la UE. "Y, dado que permite a los usuarios generar y difundir mensajes que reflejan una narrativa específica con relativamente poco esfuerzo, también puede utilizarse como herramienta de propaganda", añade.

3.   Producción de malware - Otra preocupación para Europol es que delincuentes con pocos conocimientos técnicos puedan utilizar ChatGPT para producir malware (programas diseñados específicamente para realizar acciones nocivas y actividades malintencionadas en una computadora).

Conozca nuestras soluciones KYC y AML para el sector fintech

Fraude online: un desafío creciente

Ante este panorama, es esencial que las empresas del sector financiero, como las fintech, redoblen la atención a sus programas de riesgo y compliance, manteniendo un estricto control de los procesos que necesitarán para protegerse de las actividades ilícitas generalizadas y garantizar la conformidad normativa.

Según un reciente white paper de Refinitiv, elaborado en colaboración con la consultora global FINTRAIL, las principales dificultades a las que se enfrentarán las fintech en 2022 están relacionadas con los activos digitales, las criptomonedas, las sanciones y, sobre todo, los fraudes online. Sí, los profesionales del sector fueron tajantes al afirmar que el fraude online es su mayor desafío y una amenaza persistente, ya que los delincuentes "modernos" recurren ahora a identidades artificiales o sintéticas, así como a otras tecnologías de vanguardia, para producir documentos falsos.

En Refinitiv, creemos que a medida que el sector financiero continúa su trayectoria de crecimiento, tres elementos clave pueden ayudar a las empresas en cualquier etapa de ese viaje: datos sólidos, tecnología de vanguardia y experiencia humana inestimable.

Nuestra combinación de datos de calidad y tecnología punta, desarrollada para responder al complejo marco normativo actual, ha sido pionera en ayudar a empresas, bancos y otras instituciones financieras a maximizar recursos, gestionar riesgos, mejorar el compliance y, por supuesto, reducir costos.

Para descubrir cuáles son los desafíos AML en juego actualmente, las tendencias que dan forma a 2022 y qué esperar en 2023, visite nuestro nuevo white paper: "Desafíos de ALD para empresas de tecnología financiera: perspectivas para el futuro"