No mês passado, a gigante da tecnologia Apple Inc. tomou uma atitude ousada ao remover três aplicativos de sua App Store. Esses aplicativos até aproveitaram as ferramentas de aprendizado de máquina disponíveis em IA e tentaram construir imagens não consensuais sem o consentimento de uma pessoa. A decisão segue preocupações de que os aplicativos estivessem usando publicidade enganosa em lugares como Instagram e pornografia! Sites.
Casos enganosos na publicidade
Qualquer pessoa que clica neste anúncio é direcionada para a Apple App Store, e o próprio aplicativo é descrito como um “gerador de arte”, mas sem qualquer referência se pode gerar nus. Esta é uma lacuna de longa data nas lojas de aplicações móveis, identificada pela primeira vez em 2022.
Através de algoritmos baseados em IA, as aplicações acusadas deste ato alegavam despir pessoas em fotos, levando a uma suposição incorreta de nudez, mesmo que não tivessem a permissão ou conhecimento dos sujeitos. Atos como estes não só violam a privacidade, mas também são fontes potenciais de exploração, assédio e chantagem.
Várias versões semelhantes deste anúncio apresentando várias outras mulheres geradas por IA foram mostradas no Facebook, Instagram, Facebook Messenger e na rede de anúncios no aplicativo Meta entre 10 e 20 de abril.
Depois de tomar conhecimento desses aplicativos fraudulentos, a Apple foi a primeira a removê-los da App Store. Embora alegassem ser inocentes, seus verdadeiros motivos foram revelados pelos aplicativos, forçando a Apple a remover os aplicativos e cumprir os padrões da comunidade. Isto demonstra claramente a dedicação inabalável da Apple em criar um espaço digital seguro e de gênero neutro para todos.
Desafios e responsabilidades contínuos
Embora as contramedidas tomadas pela Apple mereçam respeito, este incidente acaba levantando algumas dúvidas sobre a revisão de aplicativos e os métodos de monitoramento de publicidade. O facto de estas aplicações terem passado despercebidas na App Store durante muito tempo apenas sublinha a necessidade de maior atenção e medidas ativas para identificar e eliminar aplicações fraudulentas.
Além disso, os desenvolvedores aplicaram métodos astutos para promover seus recursos ilegais em sites adultos, garantindo que não seriam detectados pela Apple e pelo Google. Estes casos ilustram os problemas que as empresas tecnológicas enfrentam no policiamento das suas plataformas e na aplicação das diretrizes comunitárias.
Com a próxima divulgação pela Apple de alguns projetos relacionados à IA na Worldwide Developers Conference (WWDC) 2023, será bastante intrigante ver o movimento que a empresa inicia em relação a esses aplicativos. Uma parte importante da implementação responsável da tecnologia pela Apple é manter uma boa imagem de comportamento ético e governança sólida da tecnologia, o que é fundamental à luz do uso crescente de inteligência artificial pela Apple em seus produtos.
A remoção desses aplicativos seria um exemplo de questão ética no desenvolvimento e uso de inteligência artificial. A segunda preocupação relacionada com o desenvolvimento de capacidades de IA é a privacidade do utilizador. Além disso, você precisa pedir permissão aos usuários e garantir sua segurança. Ao bloquear esses aplicativos, a Apple enfatiza o comportamento ético em sua comunidade.
Fonte: 404