A Comissão de Finanças, Orçamento e Planejamento da Assembleia Legislativa do Estado de São Paulo deu aval, na tarde desta terça-feira (10), a uma proposta que proíbe o uso de Inteligência Artificial (IA) para a criação de deep nudes - imagens e vídeos falsos que mostram pessoas nuas a partir de fotos originais. O projeto é da deputada Marta Costa (PSD) e segue em tramitação na Casa.

A prática ganhou evidência nos últimos meses quando usuárias da rede social X, o antigo Twitter, denunciaram que suas fotos estavam sendo manipuladas pela inteligência artificial da plataforma para que aparecessem nuas ou usando biquíni ou trajes sensuais. Apesar de ter sido protocolado muito antes disso, o PL 257/2024 busca resolver exatamente esse problema.

"O avanço tecnológico e o surgimento de programas de inteligência artificial cada vez mais sofisticados têm aumentado a preocupação na disseminação de conteúdos não consensuais. Este projeto visa proteger a privacidade e a dignidade das pessoas", defende Marta Costa na justificativa da proposta.

O texto da propositura, que agora está pronta para ser votada em Plenário, proíbe o desenvolvimento, a distribuição, a venda, a promoção ou o uso de inteligência artificial projetada ou adaptada para criar deep nudes. O PL ainda responsabiliza plataformas digitais pela detecção e remoção do conteúdo inadequado, bem como pela identificação dos aplicativos e programas de IA que violem a legislação.

Programas sociais

Ainda durante a reunião desta tarde, a CFOP aprovou a criação de programas sociais nas mais diversas áreas. Um deles é o programa de conscientização sobre trissomia 21, conhecida como Síndrome de Down, voltado a pais e responsáveis de crianças diagnosticadas com a doença.

A política, prevista no PL 124/2024, da deputada Andréa Werner (PSB), busca trazer informações sobre a Síndrome, seus aspectos genéticos e os direitos que as pessoas diagnosticadas possuem no acesso a serviços essenciais como saúde, educação, trabalho e lazer.

Também receberam o aval do colegiado os PLs 314/2022, da ex-deputada Damaris Moura, que institui o Programa de Inclusão Digital para Idosos, e 1394/2023, do deputado Leonardo Siqueira (Novo), que cria o Programa Aluno Presente. A proposta prevê o uso de mecanismos de incentivo comportamental, como o envio de mensagens de texto para pais e alunos, para promover interesse e engajamento com as atividades escolares e prevenir o abandono e a evasão escolar.

Assista à reunião, na íntegra, na transmissão da TV Alesp:

Confira a galeria de imagens da reunião