Na palestra “Attacking Web LLMs: How AI can be hacked”, o especialista em segurança cibernética Alcyon Junior explora as vulnerabilidades de Modelos de Linguagem de Grande Escala (LLMs) em ambientes web. Alcyon é uma figura reconhecida no campo da segurança da informação, atuando como Head de Serviços de Segurança Ofensiva, palestrante internacional e escritor, além de ser professor e instrutor credenciado pela EXIN. Com uma trajetória acadêmica robusta e diversas certificações em segurança, ele compartilha seu conhecimento sobre os riscos emergentes associados ao uso de inteligência artificial.
Os LLMs são modelos de IA desenvolvidos para processar e gerar linguagem natural, sendo amplamente utilizados em aplicações web, como assistentes virtuais, chatbots e sistemas de recomendação. No entanto, como toda tecnologia, eles não são imunes a falhas e podem ser explorados para ataques sofisticados. Durante a palestra, Alcyon aborda as técnicas que adversários podem usar para manipular esses modelos e identificar falhas em implementações de IA.
A apresentação oferece uma visão detalhada de como os sistemas baseados em LLMs podem ser hackeados, expondo práticas de ataque que exploram vulnerabilidades específicas desses modelos. Os participantes aprenderão a identificar pontos críticos onde a segurança pode ser comprometida e entenderão como mitigar esses riscos. Alcyon compartilha métodos para proteger implementações de IA, discutindo práticas para assegurar a privacidade e integridade dos sistemas em uso.
Além de expor as vulnerabilidades, a palestra também foca em como adversários podem utilizar LLMs para desenvolver novos vetores de ataque. A capacidade desses modelos de gerar textos realistas e interagir de forma semelhante a humanos representa uma ferramenta poderosa para campanhas de phishing, manipulação de informações e disseminação de desinformação. Alcyon explora como essas técnicas são aplicadas na prática e quais medidas podem ser adotadas para reduzir a exposição a essas ameaças.
O público-alvo do evento inclui estudantes e profissionais de tecnologia da informação interessados em segurança de IA e na exploração de vulnerabilidades tecnológicas. A palestra é especialmente útil para aqueles que desejam entender como as explorações de LLMs ocorrem e como proteger suas implementações de IA. Alcyon oferece insights valiosos sobre a segurança e privacidade de dados em sistemas baseados em inteligência artificial, destacando a importância de desenvolver práticas seguras desde a concepção do sistema até a sua disponibilização ao público.
Com a crescente adoção de IA em aplicações web e a proliferação de LLMs em diversos setores, conhecer as vulnerabilidades e os métodos de ataque torna-se essencial para garantir a segurança dos sistemas e proteger os dados dos usuários. A palestra de Alcyon Junior apresenta uma oportunidade para profissionais e entusiastas da tecnologia aprofundarem seu conhecimento sobre os riscos associados aos LLMs e aprenderem como defender-se contra ameaças cibernéticas avançadas.
Para mais informações e aprofundamento em práticas de segurança de IA, acompanhe as publicações de Alcyon Junior e suas contribuições para o SecurityCast, onde ele discute os mais diversos temas relacionados à segurança cibernética e inovações tecnológicas.
Latinoware 2024: Tecnologia, Inovação e Conhecimento
O Latinoware 2024, um dos maiores eventos de tecnologia da América Latina, será realizado em Foz do Iguaçu, reunindo especialistas, desenvolvedores e entusiastas para explorar as últimas tendências e inovações tecnológicas. O evento oferece uma programação diversificada, com palestras, workshops e painéis que abordam temas como software livre, cibersegurança, inteligência artificial e muito mais.
As inscrições para o Latinoware 2024 já estão abertas. Não perca a chance de participar desse encontro de mentes criativas e inovadoras, que promete trazer insights valiosos e fomentar o desenvolvimento tecnológico. Para se inscrever e obter mais informações, visite o site oficial: www.latinoware.org.
