Figma retira ferramenta de design de IA por aparentemente plagiar o aplicativo Weather da Apple
A fabricante de ferramentas de design de aplicativos e web Figma retirou temporariamente seu recurso de IA generativa “Make Design” porque parece acreditar que o aplicativo Weather da Apple é o melhor e mais completo aplicativo de previsão do tempo para dispositivos móveis.
O design de texto para aplicativo de IA recursoA afinidade do em imitar a linguagem de design da Apple foi descoberta pelo fundador da NotBoring Software, Andy Allen, depois que ele pediu à plataforma para gerar um “aplicativo de clima não chato”.
Tudo disse que o aplicativo generativo ofereceria consistentemente quase réplicas do próprio aplicativo de clima da Apple, que vem com todos os dispositivos iOS. O comportamento levou Allen a especular que o Figma havia usado designs de aplicativos existentes para treinar o serviço. “O Figma AI parece bastante treinado em aplicativos existentes”, ele escreveu em um acompanhamento publicar.
Após a descoberta, o CEO da Figma, Dylan Fields, escreveu em um Tópico Xitter que a empresa “desabilitaria temporariamente o recurso Criar Design” até que correções fossem feitas para evitar esse comportamento.
Fields também tentou rejeitar as alegações de que o serviço havia sido treinado em designs populares de aplicativos de terceiros. “O recurso Make Design não é treinado em conteúdo Figma, arquivos da comunidade ou designs de aplicativos. Em outras palavras, as acusações sobre treinamento de dados neste tweet são falsas”, ele escreveu em resposta às descobertas de Allen.
No entanto, Fields continuou dizendo que o recurso é construído usando modelos de linguagem grandes prontos para uso que funcionam em conjunto com “sistemas de design” que a Figma encomendou. O problema, ele explicou, está nesses “sistemas de design”, acrescentando que essa imitação do software de clima da Apple poderia ter sido evitada com etapas adicionais de garantia de qualidade.
Podemos entender isso como se a Figma tivesse encomendado vários designs para treinar sua ferramenta generativa, e alguns desses trabalhos de design se pareciam muito com os da Apple, daí o resultado do recurso.
“Eu odeio errar o alvo, especialmente em algo que acredito ser tão fundamentalmente importante para o futuro do design”, concluiu Fields.
Falando com O registroAllen disse que achava que a explicação de Field fazia sentido, embora tenha notado que ele nunca afirmou que o serviço era treinado com base em dados de usuários ou da comunidade.
“O verdadeiro problema entre as empresas GenAI e os criadores é que nenhuma das empresas foi aberta sobre como esses modelos são treinados, com quais dados e quais direitos foram garantidos. É como o fast food da criatividade, onde todos os ingredientes e processos são escondidos”, lamentou.
Allen também deixou claro que não se opõe à IA generativa no design de aplicativos.
“O GenAI em geral parece ser bom em fazer coisas intermediárias para referência, mas acho que ele não é utilizável para a maioria dos trabalhos finalizados. Ele vai melhorar muito com o tempo e tem um longo futuro pela frente”, disse ele, acrescentando que há outros recursos de IA que o Figma introduziu – como camadas de nomeação automática e localização – que são fantásticos. “O recurso Make Designs provavelmente só precisava de um pouco mais de tempo para assar.”
Embora Fields insista que o recurso Make Design não foi treinado diretamente em aplicativos existentes — apenas projetos que se assemelham muito a eles, talvez — o comportamento do serviço levanta questões sobre quem é o responsável se um modelo gerar algo que possivelmente viole direitos autorais.
Vários gigantes da tecnologia, incluindo o Google e a Microsoft, têm estendido proteções legais limitadas contra reivindicações de direitos autorais para usuários de seus serviços de IA generativa.
Figma não abordou diretamente O registroperguntas de ‘s sobre como e por que o recurso Make Design se comportou da maneira que se comportou, nem quais proteções legais ele tem atualmente ou planeja oferecer aos usuários no futuro. Em vez disso, um porta-voz nos direcionou para a postagem de Fields no Xitter e um página detalhando sua abordagem de IA.
Considerando o comportamento do Make Designs, Allen em um separado missiva sugeriu que os usuários do serviço “verificassem cuidadosamente os aplicativos existentes ou modificassem os resultados intensamente” para evitar possíveis problemas legais futuros. ®
