A proliferação de plataformas generativas de IA (GENAI) revolucionou os serviços baseados na Web, permitindo assistência rápida de código, processamento de linguagem natural, implantação de chatbot e construção automatizada de sites.
No entanto, os dados de telemetria revelam uma evolução preocupante no ecossistema de Genai, onde os atores de ameaças estão explorando cada vez mais essas ferramentas para orquestrar campanhas avançadas de phishing.
Ao alavancar os recursos orientados à IA, os adversários podem gerar conteúdo de phishing hiper-realista, representar marcas legítimas e automatizar ataques em larga escala com um esforço mínimo.
Este uso indevido não apenas amplia Engenharia Social Ameaças, mas também complica a detecção, à medida que os artefatos gerados pela IA se misturam perfeitamente com o conteúdo benigno.
Soluções de segurança como filtragem avançada de URL e segurança do DNS são críticas na identificação de domínios maliciosos associados a essas atividades, fornecendo defesas proativas para redes afetadas.
Adoção crescente de Genai
A adoção de Genai aumentou dramaticamente, com o tráfego do site para Plataformas de IA Dobrar dentro de seis meses de abril de 2024 a abril de 2025, impulsionado por inovações em geração de texto, criação de mídia e automação de fluxo de trabalho.
A telemetria indica que os setores de alta tecnologia dominam o uso, compreendendo mais de 70% das interações Genai, seguidas de educação, telecomunicações e serviços profissionais.
As categorias predominantes incluem ferramentas de geração de texto, como assistentes de redação e chatbots, que representam a maior parte da atividade, juntamente com geradores de mídia e serviços de processamento de dados.
Essa integração rápida simplifica tarefas como geração de código e criação de conteúdo, mas apresenta novos vetores de ataque.
Por exemplo, os assistentes de código de IA correm o risco de expor a propriedade intelectual proprietária através de vazamentos de dados inadvertidos, enquanto os modelos de geração de texto podem ser manipulados para produzir informações de desinformação ou phishing convincentes.
As ferramentas multimídia permitem a fabricação de fagos de DeepFakes e sites fraudulentos, e as plataformas de automação do fluxo de trabalho, se inadequadamente governadas, facilitam a exfiltração de dados não autorizados e as cadeias de exploração automatizadas.
A análise mostra que os geradores de sites, assistentes de redação e chatbots representam os principais serviços mal utilizados para phishing, apenas com os construtores de sites compreendendo aproximadamente 40% dos incidentes detectados, ressaltando a necessidade de inteligência de ameaças robustas para mitigar esses riscos emergentes.
Exploração do mundo real
Os atores de ameaças estão abusando ativamente de construtores de sites movidos a IA para implantar páginas de phishing com velocidade sem precedentes, geralmente gerando sites totalmente funcionais em segundos com base em avisos simples sem requisitos de verificação.
Telemetria tem identificado Exemplos do mundo real de maio de 2025, onde os atacantes criaram páginas de destino enganosas imitando entidades confiáveis, ligando a domínios de colheita de credenciais.
Os testes revelam que essas plataformas não têm guardares suficientes contra a representação da marca; Por exemplo, um rápido que descreve uma empresa de segurança cibernética como as redes Palo Alto pode produzir um site plausível completo com descrições geradas por IA de serviços, como firewalls de próxima geração e inteligência de ameaças, publicáveis com supervisão mínima.
Da mesma forma, outros construtores receberam golpes de cartão -presente falsos falsificando fornecedores populares. Enquanto os ataques atuais parecem rudimentares, espera -se que os avanços nas capacidades de IA produzam artefatos de phishing mais sofisticados ao longo do tempo.
Paralelamente, as plataformas assistentes de redação estão sendo reaproveitadas como vetores de hospedagem para conteúdo de phishing, apresentando iscas genéricas que redirecionam vítimas para sites secundários, como páginas de login da Microsoft fabricadas.
Embora essas páginas mostrem uma integração limitada de IA até agora, parecida com táticas tradicionais de abuso de saas, o potencial de uso indevido de uso inadequado, como narrativas de phishing personalizadas artesanais, representa uma ameaça crescente.
Para combater isso, as equipes de resposta a incidentes enfatizam indicadores como registros anômalos de domínio e padrões de URL, instando as organizações a implantar defesas em camadas, incluindo estruturas de monitoramento e conformidade específicas de IA para proteger contra esses ataques em evolução, habilitados por Genai.
Encontre esta notícia interessante! Siga -nosGoogle NewsAssim,LinkedIneXPara obter atualizações instantâneas!