O texto foca no desenvolvimento e no impacto da inteligência artificial generativa (IAG) no contexto de fraudes e manipulações on-line. A metodologia aplicada é a pesquisa documental, envolvendo a análise de estudos existentes, casos de fraude, opiniões de especialistas e percepções comparativas das práticas das plataformas. Os resultados destacam a crescente sofisticação dos mecanismos de fraude, apoiados por conteúdos gerados por IA, e ressaltam a importância da alfabetização digital, dos mecanismos de confiança e das contramedidas tecnológicas. Salienta-se que a IAG possibilita a criação de perfis falsos, imagens e textos altamente realistas, difíceis de distinguir do conteúdo autêntico. Essa capacidade representa um risco significativo de perda de confiança em plataformas on-line, como redes sociais, marketplaces e agências de viagens. Dá-se ênfase especial à importância da alfabetização midiática e da checagem de fatos como ferramentas-chave no combate à desinformação. O estudo apresenta um conjunto de recomendações para aumentar a segurança dos usuários e defende esforços coordenados entre provedores de plataformas, usuários e desenvolvedores de IA. Também são analisadas táticas sofisticadas empregadas por fraudadores, incluindo anúncios falsos e sites de phishing que exploram a confiança dos viajantes
The text focuses on the development and impact of generative artificial intelligence (GenAI) in the context of online fraud and manipulation. The methodology applied is desk research, involving the analysis of existing studies, fraud cases, expert opinions, and comparative insights from platform practices. The findings highlight the growing sophistication of fraud mechanisms, supported by AI-generated content, and emphasize the importance of digital literacy, trust mechanisms, and technological countermeasures. It emphasizes that GenAI enables the creation of highly realistic fake profiles, images, and texts that are difficult to distinguish from authentic content. This capability presents a significant risk of loss of trust for online platforms such as social media, marketplaces, and travel agencies. Particular emphasis is placed on the importance of media literacy and fact-checking as key tools in combating misleading information. The study presents a set of recommendations to enhance user safety and calls for coordinated efforts between platform providers, users, and AI developers. The study analyzes sophisticated fraudster tactics, including fake advertisements and phishing sites that exploit travelers’ trust.
