Los Peligros de la IA: correos electr贸nicos de phishing generados por IA se acercan a la eficacia humana

A帽adir a tus IAs favoritasQuitar de tus favoritasQuitar de favoritos 0
Puntuaci贸n0

2023-10-31 08:53:54

Un equipo de investigaci贸n de IBM est谩 estudiando la eficacia de la IA generativa en ingenier铆a social y redacci贸n de correos electr贸nicos de phishing.

Los investigadores utilizaron cinco mensajes ChatGPT para crear correos electr贸nicos de phishing para sectores espec铆ficos. Los mensajes se centraban en las principales preocupaciones de los empleados de esos sectores y seleccionaban espec铆ficamente t茅cnicas de ingenier铆a social y marketing para aumentar la probabilidad de que los empleados hicieran clic en un enlace del correo electr贸nico.

El phishing con IA es casi tan bueno como el phishing humano, pero mucho m谩s r谩pido

Los correos electr贸nicos de phishing generados por la IA y por humanos se enviaron a m谩s de 800 empleados en una prueba A/B. Los resultados mostraron que los correos electr贸nicos de phishing generados por la IA eran s贸lo ligeramente inferiores a los generados por humanos. Los resultados mostraron que los correos electr贸nicos de phishing generados por IA s贸lo iban ligeramente por detr谩s de los generados por humanos.

Seg煤n IBM, el hecho de que los correos electr贸nicos generados por humanos siguieran teniendo ventaja se debi贸 a que estaban m谩s personalizados y adaptados a la empresa, mientras que ChatGPT adopt贸 un enfoque m谩s gen茅rico. Aun as铆, los ataques por correo electr贸nico de ChatGPT fueron casi iguales a los ataques humanos, aunque se notificaron como sospechosos con m谩s frecuencia.

Los correos electronicos de phishing generados por IA se acercan 2023-10-31 08:53:54
Los correos electr贸nicos de phishing con IA fueron ligeramente m谩s sospechosos que los correos electr贸nicos humanos, pero la diferencia es peque帽a. | Imagen: Stephanie Carruthers v铆a securityintelligence.com

La diferencia est谩 en el tiempo necesario: el equipo rojo de IBM tarda unas 16 horas en crear un correo electr贸nico de phishing de alta calidad. ChatGPT lo hizo en cinco minutos.

芦Los atacantes pueden ahorrarse potencialmente casi dos d铆as de trabajo utilizando modelos generativos de IA禄, escribe Stephanie Carruthers, hacker jefe de personas en IBM X-Force Red.

1698383715 961 Los correos electronicos de phishing generados por IA se acercan 2023-10-31 08:53:54
Intento de phishing de ChatGPT. | Imagen: Stephanie Carruthers v铆a securityintelligence.com
1698383715 480 Los correos electronicos de phishing generados por IA se acercan 2023-10-31 08:53:54
El correo electr贸nico de phishing humano. | Imagen: Stephanie Carruthers v铆a securityintelligence.com

Los investigadores de IBM apuntan a herramientas como WormGPT, LLM optimizados para ciberataques que pueden comprarse en l铆nea. Esperan que los ataques con IA se vuelvan m谩s sofisticados y superen a los ataques humanos, aunque todav铆a no han visto ataques de phishing con IA generativa.

En este contexto, un cita reciente del consejero delegado de OpenAI, Sam Altman es digna de menci贸n: Predice que la IA ser谩 芦capaz de una persuasi贸n sobrehumana禄 incluso antes de que, en general, sea intelectualmente superior a los humanos. Puedes imaginarte lo que esto significa para el phishing y la ciberseguridad.

Para prepararse ante el cambiante panorama de las amenazas, los investigadores de seguridad de IBM creen que las empresas y los consumidores deber铆an tener en cuenta las siguientes recomendaciones:

  • En caso de duda, llame al remitente para verificar la legitimidad de un correo electr贸nico o una estafa telef贸nica.
  • Supera el estereotipo gramatical y haz que los empleados sean conscientes de la extensi贸n y complejidad del contenido de los correos electr贸nicos.
  • Revise los programas de ingenier铆a social, incluida la incorporaci贸n a la formaci贸n de t茅cnicas como el vishing.
  • Refuerce los controles de gesti贸n de identidades y accesos para verificar el acceso y los privilegios de los usuarios.
  • Adaptarse e innovar continuamente para adelantarse a los malos actores.

Deja una opini贸n

Deje una respuesta

馃 AI MAFIA
Logo