A Meta vai começar a marcar imagens geradas por inteligência artificial no Facebook, Instagram e Threads para aumentar a transparência online.
A empresa já assinala conteúdos do seu motor Imagine AI no Facebook com uma marca de água visível e pretende fazer o mesmo para imagens de terceiros, como OpenAI, Google e Midjourney. A forma exata destes rótulos ainda não foi determinada, mas poderão simplesmente incluir as palavras “Informações de IA” ao lado do conteúdo gerado. O design dos rótulos ainda não é final e pode mudar antes do lançamento oficial da atualização.
Além dos rótulos visíveis, a empresa está a desenvolver ferramentas para identificar marcadores invisíveis em imagens de terceiros. O Imagine AI incorpora marcas de água nos metadados do conteúdo para incluir uma etiqueta única que não manipulável por ferramentas de edição. Outras plataformas também estão a trabalhar num sistema para detectar os metadados marcados.
Conteúdo Áudio e Vídeo gerado por IA no Facebook e Instagram
Em relação ao áudio e vídeo gerados por IA, o Meta admite que atualmente não consegue detectá-los da mesma forma que as imagens. No entanto, os programadores estão a trabalhar nessa potencialidade. Enquanto isso, a empresa vai depender do sistema de honra, exigindo que os utilizadores divulguem se o conteúdo produzido tem origem em inteligência artificial. A falha em fazê-lo resultará numa penalidade. Se o conteúdo for muito realista, o Meta vai anexar um rótulo mais visível oferecendo detalhes importantes.
Quanto às suas próprias plataformas como o Facebook, Instagram e outros, a Meta está a melhorar as ferramentas. O laboratório de pesquisa de IA da empresa está a desenvolver uma nova tecnologia de marca de água chamada “Stable Signature”. Esta tecnologia pretende tornar as marcas de água uma parte integral do processo de geração de imagens, impedindo a remoção dos marcadores invisíveis dos metadados do conteúdo gerado por IA. A Meta também está a treinar vários LLMs (Modelos de Linguagem de Grande Escala) nas suas Normas da Comunidade para que as IAs possam determinar se determinado conteúdo viola a política.
Os rótulos das redes sociais serão implementados nos próximos meses, especialmente em 2024, um ano eleitoral importante para muitos países, incluindo os Estados Unidos. A Meta está a tentar mitigar a propagação de desinformação nas suas plataformas. Não são conhecidas ainda as penalizações que a plataforma aplicará aos utilizadores que violem as políticas atualizadas.
Artigos relacionados:
Meta encerra o acesso a Grupos do Facebook através de API
Facebook é a rede social que os portugueses mais estão a abandonar
